クラメール・ラオの限界
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2024/10/19 16:09 UTC 版)
推定理論・統計学におけるクラメール・ラオの限界(CRB)(クラメールラオのげんかい、英: Cramér–Rao bound)(クラメール・ラオの下限(CRLB)、クラメール・ラオの不等式、Frechet–Darmois–Cramér–Rao 不等式、情報不等式とも)とは、ある確率分布の未知母数を推定する不偏推定量には、その分散についてある下限値が存在することを示すものである。名称は、1940年代にそれぞれ独立に推定精度に関する限界を見出した、ハラルド・クラメール、カリャンプディ・ラダクリシュナ・ラオ、モーリス・ルネ・フレシェ、ジョルジュ・ダルモアにちなむ[1][2][3][4][5][6][7]。
最も単純に述べると、『任意の不偏推定量の分散は、 そのフィッシャー情報量の逆数以上になる』というものである。不偏な推定量がこの下限を達成するとき、その推定量は(完全な)有効推定量であるという。この場合、その推定量はあらゆる不偏推定量の中で平均二乗誤差が最小のものとなるため、必然的に最小分散不偏推定量(MVU推定量)にもなる。
しかしながら、どんな不偏推定量を考えても分散が決してクラメール・ラオの下限に到達できないようなケースもある(MVU推定量が存在するときでもこれは起こりえる)。
クラメール・ラオの限界には、不偏でない推定量に対するバージョンもある。不偏性の条件を取り除くことで、推定量の分散・平均二乗誤差が、不偏の場合のクラメール・ラオの下限を「下回る」ようなケースも存在する。推定量の偏りも参照。
主張
ここでは、母数が1つ・推定量が不偏である場合から始めて、いくつかのかなり一般的な場合へと拡張していく。どのバージョンでもある種の正規性の仮定をおくが、それはほとんどの「普通のふるまいをする」確率分布については成り立つものである。この条件については後述する。
母数が1つで推定量が不偏の場合
何らかの確率密度関数
- クラメール・ラオの限界のページへのリンク