フィッシャーのスコア法
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2019/12/01 22:40 UTC 版)
「尤度方程式」の記事における「フィッシャーのスコア法」の解説
ニュートン＝ラフソン法においては、各ステップで負の対数尤度関数の二階微分であるI(θ)を計算する必要がある。このI(θ)を求める計算は、場合によっては煩雑となる。分布によっては、I(θ)の期待値であるフィッシャー情報行列 J ( θ ) = E θ [ − ∂ 2 ∂ θ ∂ θ T ln L ( θ , x ) ] = E θ [ ∂ ∂ θ ln L ( θ , x ) ∂ ∂ θ T ln L ( θ , x ) ] {\displaystyle J({\boldsymbol {\theta }})=E_{\boldsymbol {\theta }}\left[-{\frac {\partial ^{2}}{\partial {\boldsymbol {\theta }}\partial {\boldsymbol {\theta }}^{T}}}\ln {L({\boldsymbol {\theta }},\mathbf {x} )}\right]=E_{\boldsymbol {\theta }}\left[{\frac {\partial }{\partial {\boldsymbol {\theta }}}}\ln {L({\boldsymbol {\theta }},\mathbf {x} }){\frac {\partial }{\partial {\boldsymbol {\theta }}^{T}}}\ln {L({\boldsymbol {\theta }},\mathbf {x} )}\right]} が、より簡潔に求まるため、I(θ)をJ(θ)で代用し、反復計算を θ ( k + 1 ) = θ ( k ) + J ( θ ( k ) ) − 1 S ( x , θ ( k ) ) {\displaystyle {\boldsymbol {\theta }}^{(k+1)}={\boldsymbol {\theta }}^{(k)}+J({\boldsymbol {\theta }}^{(k)})^{-1}\mathbf {S} (\mathbf {x} ,{\boldsymbol {\theta }}^{(k)})} とする。この方法をフィッシャーのスコア法と呼ぶ。 フィッシャー情報行列は非負定値であるため、ニュートン＝ラフソン法でのI(θ)の正定値性の問題を回避することができる。
※この「フィッシャーのスコア法」の解説は、「尤度方程式」の解説の一部です。
「フィッシャーのスコア法」を含む「尤度方程式」の記事については、「尤度方程式」の概要を参照ください。
- フィッシャーのスコア法のページへのリンク
