母数が複数（ベクトル値）の場合
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/01/01 00:44 UTC 版)
「クラメール・ラオの限界」の記事における「母数が複数（ベクトル値）の場合」の解説
クラメール・ラオの限界を、母数が複数の場合にも拡張しよう。母数ベクトルを θ = ( θ 1 , θ 2 , … , θ d ) T ∈ R d {\displaystyle {\boldsymbol {\theta }}=\left(\theta _{1},\theta _{2},\dots ,\theta _{d}\right)^{T}\in \mathbb {R} ^{d}} とし（右肩の T は転置を表す（以下同じ））、それによって決まる確率密度関数 f ( x ; θ ) {\displaystyle f(x;{\boldsymbol {\theta }})} を考える。 f {\displaystyle f} は後述の正規性の条件をみたすものとする。 フィッシャー情報行列は、 d × d {\displaystyle d\times d} 行列で、その成分 I m , k {\displaystyle I_{m,k}} が I m , k = E [ ∂ ∂ θ m ln f ( x ; θ ) ∂ ∂ θ k ln f ( x ; θ ) ] = − E [ ∂ 2 ∂ θ m ∂ θ k ln f ( x ; θ ) ] {\displaystyle {\begin{aligned}I_{m,k}&=\operatorname {E} \left[{\frac {\partial }{\partial \theta _{m}}}\ln f\left(x;{\boldsymbol {\theta }}\right){\frac {\partial }{\partial \theta _{k}}}\ln f\left(x;{\boldsymbol {\theta }}\right)\right]\\&=-\operatorname {E} \left[{\frac {\partial ^{2}}{\partial \theta _{m}\partial \theta _{k}}}\ln f\left(x;{\boldsymbol {\theta }}\right)\right]\end{aligned}}} で定まる行列のことである。 T ( X ) {\displaystyle {\boldsymbol {T}}(X)} を、母数ベクトルの任意の推定量としよう： T ( X ) = ( T 1 ( X ) , … , T d ( X ) ) T {\displaystyle {\boldsymbol {T}}(X)=(T_{1}(X),\ldots ,T_{d}(X))^{T}} 。ここで、各成分の平均を並べた平均ベクトル E [ T ( X ) ] {\displaystyle \operatorname {E} [{\boldsymbol {T}}(X)]} を ψ ( θ ) {\displaystyle {\boldsymbol {\psi }}({\boldsymbol {\theta }})} と記す。 このとき、 T ( X ) {\displaystyle {\boldsymbol {T}}(X)} の分散共分散行列に対するクラメール・ラオの限界は、 Cov ( T ( X ) ) ≥ ∂ ψ ( θ ) ∂ θ ( [ I ( θ ) ] − 1 ∂ ψ ( θ ) ∂ θ ) T {\displaystyle \operatorname {Cov} \left({\boldsymbol {T}}(X)\right)\geq {\frac {\partial {\boldsymbol {\psi }}\left({\boldsymbol {\theta }}\right)}{\partial {\boldsymbol {\theta }}}}\left([I\left({\boldsymbol {\theta }}\right)]^{-1}{\frac {\partial {\boldsymbol {\psi }}\left({\boldsymbol {\theta }}\right)}{\partial {\boldsymbol {\theta }}}}\right)^{T}} となる。ここで、 行列に対する不等式 A ≥ B {\displaystyle A\geq B} は、行列の差 A − B {\displaystyle A-B} が非負定値であるということである。 ∂ ψ ( θ ) / ∂ θ {\displaystyle \partial {\boldsymbol {\psi }}({\boldsymbol {\theta }})/\partial {\boldsymbol {\theta }}} はヤコビ行列（ i j {\displaystyle ij} 成分が ∂ ψ i ( θ ) / ∂ θ j {\displaystyle \partial \psi _{i}({\boldsymbol {\theta }})/\partial \theta _{j}} ）である。 もし T ( X ) {\displaystyle {\boldsymbol {T}}(X)} が θ {\displaystyle {\boldsymbol {\theta }}} の不偏推定量であれば（つまり ψ ( θ ) = θ {\displaystyle {\boldsymbol {\psi }}\left({\boldsymbol {\theta }}\right)={\boldsymbol {\theta }}} であれば）クラメール・ラオの限界は Cov ( T ( X ) ) ≥ I ( θ ) − 1 {\displaystyle \operatorname {Cov} \left({\boldsymbol {T}}(X)\right)\geq I\left({\boldsymbol {\theta }}\right)^{-1}} のようになる。フィッシャー情報行列の逆行列を計算するのが面倒な場合は、単に対応する対角成分の逆数をとることで、（より緩いかもしれないが）1つの下限が得られる。 Var ( T m ( X ) ) = [ Cov ( T ( X ) ) ] m m ≥ [ I ( θ ) − 1 ] m m ≥ ( [ I ( θ ) ] m m ) − 1 {\displaystyle \operatorname {Var} (T_{m}(X))=\left[\operatorname {Cov} \left({\boldsymbol {T}}(X)\right)\right]_{mm}\geq \left[I\left({\boldsymbol {\theta }}\right)^{-1}\right]_{mm}\geq \left(\left[I\left({\boldsymbol {\theta }}\right)\right]_{mm}\right)^{-1}}
※この「母数が複数（ベクトル値）の場合」の解説は、「クラメール・ラオの限界」の解説の一部です。
「母数が複数（ベクトル値）の場合」を含む「クラメール・ラオの限界」の記事については、「クラメール・ラオの限界」の概要を参照ください。
- 母数が複数の場合のページへのリンク
