ニュートン法
(ニュートン＝ラフソン法 から転送)
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2024/02/08 08:03 UTC 版)
数値解析の分野において、ニュートン法（ニュートンほう、英: Newton's method）またはニュートン・ラフソン法（英: Newton–Raphson method）は、方程式系を数値計算によって解くための反復法による求根アルゴリズムの1つである。対象とする方程式系に対する条件は、領域における微分可能性と2次微分に関する符号だけであり、線型性などは特に要求しない。収束の速さも2次収束なので古くから数値計算で使用されていた。名称はアイザック・ニュートンとジョゼフ・ラフソンに由来する。
- ^ Newton's Method(Wolfram Math World) 2010年6月8日閲覧。
- ^ Fine, Henry B. (1916-09-15). “On Newton’s Method of Approximation”. Proceedings of the National Academy of Sciences of the United States of America 2 (9): 546–552. JSTOR 83815.
- ^ 数値解析入門（増訂版）、山本哲朗、サイエンス社、2003年。
- ^ Ortega, J.; Rheinboldt, W. (1970). Iterative Solution of Nonlinear Equations in Several Variables. Academic Press
- ^ 小澤一文『Cで学ぶ数値計算アルゴリズム』共立出版、2008年、49頁。ISBN 978-4-320-12221-5。
- ^ 長島, 隆廣「ニュートン近似の改良」『数学セミナー』第19巻第5号、日本評論社、1980年5月、112頁。
- ^ 室田一雄「平野の変形Newton法の大域的収束性」『情報処理学会論文誌』第21巻第6号、情報処理学会、1980年11月、469-474頁、CRID 1050282812867143936、ISSN 1882-7764。
- ^ 非線形解析入門、大石進一、コロナ社、1997年。
- ^ 精度保証付き数値計算、大石進一、コロナ社、2000年。
- ^ 大石進一 et. al. (2018), 精度保証付き数値計算の基礎, コロナ社.
- ^ Interval Newton Method
- ^ Rajković, P.; Stanković, M.; Marinković, D, S. (2002-01), “Mean value theorems in g-calculus”, Matematički vesnik (Mathematical Society of Serbia, Belgrade) 54 (3-4): 171-178
- ^ Rajković, P. M.; Marinković, S. D.; Stanković, M. S. (2005-09-15), “On q-Newton–Kantorovich method for solving systems of equations”, Applied Mathematics and Computation (Elsevier) 168 (2): 1432-1448, doi:10.1016/j.amc.2004.10.035
- 1 ニュートン法とは
- 2 ニュートン法の概要
- 3 高次元の場合
- 4 注意
- 5 関連項目
- 6 外部リンク
ニュートン＝ラフソン法
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2019/12/01 22:40 UTC 版)
「尤度方程式」の記事における「ニュートン＝ラフソン法」の解説
ニュートン＝ラフソン法では、反復計算により、最適解θ*を求める。反復計算のkステップ目で求まったパラメータをθ(k)とする。スコア関数はテイラー展開により、 S ( x , θ ) ≃ S ( x , θ ( k ) ) − I ( θ ( k ) ) ( θ − θ ( k ) ) {\displaystyle \mathbf {S} (\mathbf {x} ,{\boldsymbol {\theta }})\simeq \mathbf {S} (\mathbf {x} ,{\boldsymbol {\theta }}^{(k)})-I({\boldsymbol {\theta }}^{(k)})({\boldsymbol {\theta }}-{\boldsymbol {\theta }}^{(k)})} と一次近似できる。ここでI(θ)は、 I ( θ ) = − ∂ 2 ∂ θ ∂ θ T ln L ( θ , x ) {\displaystyle I({\boldsymbol {\theta }})=-{\frac {\partial ^{2}}{\partial {\boldsymbol {\theta }}\partial {\boldsymbol {\theta }}^{T}}}\ln {L({\boldsymbol {\theta }},\mathbf {x} )}} で与えられる、対数尤度関数のヘッセ行列の符号を変えた行列である。ニュートン＝ラフソン法では、左辺をゼロとおくことで、θ(k+1)を与える更新式 θ ( k + 1 ) = θ ( k ) + I ( θ ( k ) ) − 1 S ( x , θ ( k ) ) {\displaystyle {\boldsymbol {\theta }}^{(k+1)}={\boldsymbol {\theta }}^{(k)}+I({\boldsymbol {\theta }}^{(k)})^{-1}\mathbf {S} (\mathbf {x} ,{\boldsymbol {\theta }}^{(k)})} を定める。 ニュートン＝ラフソン法は、最適解θ*の近傍で二次収束するため、収束が早い。すなわち、θ*の十分近くの適切な初期値を与えれば、 | | θ ( k ) − θ ∗ | | ≤ K | | θ ( k ) − θ ∗ | | 2 {\displaystyle ||{\boldsymbol {\theta }}^{(k)}-{\boldsymbol {\theta }}^{\ast }||\leq K||{\boldsymbol {\theta }}^{(k)}-{\boldsymbol {\theta }}^{\ast }||^{2}} を満たす正の定数Kが存在する。 一方で、ニュートン＝ラフソン法は各ステップで、対数尤度関数のヘッセ行列から定まるI(θ)の逆行列を計算する、もしくは、p次の連立方程式を解くことが必要となる。これらの計算量はO(p3)のオーダーであり、パラメータ数pが増えると、計算負荷が急激に増える。また、初期値の設定によっては、I(θ)は正定値とはならず、最適解θ*に収束しない場合がある。
※この「ニュートン＝ラフソン法」の解説は、「尤度方程式」の解説の一部です。
「ニュートン＝ラフソン法」を含む「尤度方程式」の記事については、「尤度方程式」の概要を参照ください。
ニュートン・ラフソン法
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/03/30 06:21 UTC 版)
「ジョゼフ・ラフソン」の記事における「ニュートン・ラフソン法」の解説
ラフソンの最も特筆すべき業績は1690年のAnalysis Aequationum Universalisである。それは方程式の根を近似する手法（現在ではニュートン・ラフソン法として知られている）を含んでいる。アイザック・ニュートンも似たような公式を1671年のMethod of Fluxionsで開発しているがこの研究は1736年（ラフソンによる研究の50年近く後）になるまで出版されなかった。しかしラフソンの方がニュートンより単純であり、それゆえに優れていると一般に考えられている。今日の教科書で見られるのはニュートンのよりもラフソンのものの方である。
※この「ニュートン・ラフソン法」の解説は、「ジョゼフ・ラフソン」の解説の一部です。
「ニュートン・ラフソン法」を含む「ジョゼフ・ラフソン」の記事については、「ジョゼフ・ラフソン」の概要を参照ください。
- ニュートン＝ラフソン法のページへのリンク
