広く使える情報量規準

ウィキペディア

広く使える情報量規準

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2025/06/19 03:58 UTC 版)

広く使える情報量規準（ひろくつかえるじようほうりょうきじゅん、英: Widely applicable information criterion、略称: WAIC）または渡辺・赤池情報量基準（Watanabe–Akaike information criterion、WAIC）は、特異的統計モデルに対する赤池情報量基準 (AIC) の一般化版である。2009年に渡辺澄夫が発表した。また、広く使えるベイズ情報量規準 (WBIC; Widely applicable Bayesian information criterion) は、特異的統計モデルに対するベイズ情報量規準 (BIC) の一般化版。2013年に渡辺澄夫が発表した。WBIC は、サンプルサイズが n の時に、逆温度が 1/log n の事後分布に対する平均対数尤度関数。

WAICもWBICも真の分布に関する情報無しに数値的に計算できる。

記法

以下では、q(x) を観測データが従う真の確率分布、観測データ（確率変数）を X={X_i}、確率モデルのパラメータを w、確率モデルを p(x|w)、事前分布を φ(w) とする。

また、事後分布による平均を 𝔼_w[・]、真のデータ分布による平均を 𝔼_x[・] とする。すなわち、任意の関数 f(w)、g(x)に対し：

$\mathbb {E} _{w}\left[f(w)\right]={\frac {\int f(w)\prod _{i=1}^{n}p(X_{i}|w)\varphi (w)\mathrm {d} w}{\int \prod _{i=1}^{n}p(X_{i}|w)\varphi (w)\mathrm {d} w}}$ カテゴリ