ニュートン法
(ニュートン＝ラフソン法 から転送)
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2025/02/13 08:11 UTC 版)
数値解析の分野において、ニュートン法（ニュートンほう、英: Newton's method）またはニュートン・ラフソン法（英: Newton–Raphson method[1]）は、方程式系を数値計算によって解くための反復法による求根アルゴリズムの1つである。対象とする方程式系に対する条件は、領域における微分可能性と2次微分に関する符号だけであり、線型性などは特に要求しない。収束の速さも2次収束なので古くから数値計算で使用されていた。名称はアイザック・ニュートンとジョゼフ・ラフソンに由来する。ニュートン法を複素平面に適用し、初期値がどの解に収束するかについて色分けした結果としてニュートン・フラクタルを描くことができる（初期値の境界における挙動の予測が難しいことを示している）[2]。
導入
この方法の考え方は以下のようである：まず初めに、予想される真の解に近いと思われる値をひとつとる。次に、そこでグラフの接線を考え、その x 切片を計算する。このx切片の値は、予想される真の解により近いものとなるのが一般である。以後、この値に対してそこでグラフの接線を考え、同じ操作を繰り返していく。
上の考え方は次のように定式化される。 ここでは、考える問題を f: R → R, x ∈ Rとして
-
例として、
外部リンク
- 『ニュートン法の解説とそれを背景とする入試問題』 - 高校数学の美しい物語
- 山本哲朗、「Newton法とその周辺」『数学』 1985年 37巻 1号 p.1-15, doi:10.11429/sugaku1947.37.1, 日本数学会
|
|
|
|---|---|
| Precalculus | |
| 極限 | |
| 微分法 | |
| 積分法 |
|
| ベクトル解析 | |
| 多変数微分積分学 | |
| 級数 | |
| 特殊関数と数学定数 | |
| 歴史 |
|
| 一覧 | |
 カテゴリ |
|
| 典拠管理データベース: 国立図書館 |
|---|
ニュートン＝ラフソン法
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2019/12/01 22:40 UTC 版)
「尤度方程式」の記事における「ニュートン＝ラフソン法」の解説
ニュートン＝ラフソン法では、反復計算により、最適解θ*を求める。反復計算のkステップ目で求まったパラメータをθ(k)とする。スコア関数はテイラー展開により、 S ( x , θ ) ≃ S ( x , θ ( k ) ) − I ( θ ( k ) ) ( θ − θ ( k ) ) {\displaystyle \mathbf {S} (\mathbf {x} ,{\boldsymbol {\theta }})\simeq \mathbf {S} (\mathbf {x} ,{\boldsymbol {\theta }}^{(k)})-I({\boldsymbol {\theta }}^{(k)})({\boldsymbol {\theta }}-{\boldsymbol {\theta }}^{(k)})} と一次近似できる。ここでI(θ)は、 I ( θ ) = − ∂ 2 ∂ θ ∂ θ T ln L ( θ , x ) {\displaystyle I({\boldsymbol {\theta }})=-{\frac {\partial ^{2}}{\partial {\boldsymbol {\theta }}\partial {\boldsymbol {\theta }}^{T}}}\ln {L({\boldsymbol {\theta }},\mathbf {x} )}} で与えられる、対数尤度関数のヘッセ行列の符号を変えた行列である。ニュートン＝ラフソン法では、左辺をゼロとおくことで、θ(k+1)を与える更新式 θ ( k + 1 ) = θ ( k ) + I ( θ ( k ) ) − 1 S ( x , θ ( k ) ) {\displaystyle {\boldsymbol {\theta }}^{(k+1)}={\boldsymbol {\theta }}^{(k)}+I({\boldsymbol {\theta }}^{(k)})^{-1}\mathbf {S} (\mathbf {x} ,{\boldsymbol {\theta }}^{(k)})} を定める。 ニュートン＝ラフソン法は、最適解θ*の近傍で二次収束するため、収束が早い。すなわち、θ*の十分近くの適切な初期値を与えれば、 | | θ ( k ) − θ ∗ | | ≤ K | | θ ( k ) − θ ∗ | | 2 {\displaystyle ||{\boldsymbol {\theta }}^{(k)}-{\boldsymbol {\theta }}^{\ast }||\leq K||{\boldsymbol {\theta }}^{(k)}-{\boldsymbol {\theta }}^{\ast }||^{2}} を満たす正の定数Kが存在する。 一方で、ニュートン＝ラフソン法は各ステップで、対数尤度関数のヘッセ行列から定まるI(θ)の逆行列を計算する、もしくは、p次の連立方程式を解くことが必要となる。これらの計算量はO(p3)のオーダーであり、パラメータ数pが増えると、計算負荷が急激に増える。また、初期値の設定によっては、I(θ)は正定値とはならず、最適解θ*に収束しない場合がある。
※この「ニュートン＝ラフソン法」の解説は、「尤度方程式」の解説の一部です。
「ニュートン＝ラフソン法」を含む「尤度方程式」の記事については、「尤度方程式」の概要を参照ください。
- ニュートン＝ラフソン法のページへのリンク
