ベイズ統計学 ベイズの定理

ウィキペディア

ベイズ統計学

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2023/07/22 16:29 UTC 版)

ベイズの定理

ベイズの定理はベイズ統計学における基本定理である。ベイズの定理は新たなデータを得た後に確率（直感的信頼度）を更新するためにベイズ的手法によって用いられる。2つの事象$A$と$B$を考えると、$B$が真であると仮定したと時の$A$の条件付き確率は以下の式で表わされる（$P(B)\neq 0$）。

$P(A\mid B)={\frac {P(B\mid A)P(A)}{P(B)}}$

ベイズの定理は確率論の基本的結果であるものの、ベイズ統計学においては明確な解釈を持つ。上記の式において、$A$は大抵は命題（硬貨が50%の確率で表面から着地するとする宣言といったようなもの）、$B$ は考慮に入れられるべき証拠（エビデンス）または新たなデータ（一連のコイン投げの結果といったようなもの）を表わす。$P(A)$は$A$の事前確率であり、証拠が考慮に入れられる前の$A$に関する直感的信頼を表わす。$P(B\mid A)$は尤度関数であり、$A$が真であると仮定した時の証拠$B$の確率と解釈することができる。この尤度は、証拠$B$が命題$A$を支持する度合いを定量する。$P(A\mid B)$は事後確率であり、証拠$B$を考慮に入れた後の命題$A$の確率である。原則的に、ベイズの定理は新たな証拠$B$を考慮した後に事前の直感的信頼度$P(A)$を更新する。

証拠の確率$P(B)$は全確率の公式を使って計算できる。$\{A_{1},A_{2},\dots ,A_{n}\}$が標本空間（実験の全ての結果一式）の分割であるとすると、以下のようになる。

$P(B)=P(B\mid A_{1})P(A_{1})+P(B\mid A_{2})P(A_{2})+\dots +P(B\mid A_{n})P(A_{n})=\sum _{i}P(B\mid A_{i})P(A_{i})$

無限の数の結果が存在する時、全確率の公式を使って$P(B)$を計算するためには全ての結果にわたって積分する必要がある。しばしば、この計算は評価に多大な時間を必要とする加算または積分を含むため、 $P(B)$は計算が難しく、そのためしばしば事前確率と尤度の積のみが考慮される。これは、証拠が同じ分析中では変化しないためである。事後分布はこの積に比例する。

$P(A\mid B)\propto P(B\mid A)P(A)$

事後確率の最頻値であり、しばしば数理最適化手法を使ってベイズ統計学において計算される最大事後確率は同じままである。事後確率はマルコフ連鎖モンテカルロ法または変分ベイズ法といった手法を使うことで$P(B)$の厳密値を計算せずに近似することができる。