アルゴリズムの手順
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2020/11/01 04:45 UTC 版)
「メトロポリス・ヘイスティングス法」の記事における「アルゴリズムの手順」の解説
現時点のサンプル値は x t {\displaystyle x^{t}\,} であるとする。メトロポリス・ヘイスティングス法では、次のサンプル x ′ {\displaystyle x'} は確率密度関数 Q ( x ′ | x t ) {\displaystyle Q(x'|x^{t})\,} に従い生成される。そして以下の値を計算する。 a = a 1 a 2 {\displaystyle a=a_{1}a_{2}\,} ここで、 a 1 = P ( x ′ ) P ( x t ) {\displaystyle a_{1}={\frac {P(x')}{P(x^{t})}}\,\!} はサンプルの候補 x ′ {\displaystyle x'\,} とその一つ前のサンプル x t {\displaystyle x^{t}\,} の尤度比であり、 a 2 = Q ( x t | x ′ ) Q ( x ′ | x t ) {\displaystyle a_{2}={\frac {Q(x^{t}|x')}{Q(x'|x^{t})}}} は２つの提案分布( x t {\displaystyle x^{t}\,} から x ′ {\displaystyle x'\,} へとその逆方向)の比率である。提案分布が状態に関して対称の場合は a 2 {\displaystyle \displaystyle a_{2}} は 1 となる。 次に、以下のルールにもとづき新しい状態 x t + 1 {\displaystyle x^{t+1}\,} が選択される。 a ≥ 1 {\displaystyle \displaystyle a\geq 1} の場合: x t + 1 = x ′ {\displaystyle \displaystyle x^{t+1}=x'} a < 1 {\displaystyle \displaystyle a<1} の場合: a {\displaystyle \displaystyle a} の確率で x t + 1 = x ′ {\displaystyle \displaystyle x^{t+1}=x'} 1 − a {\displaystyle \displaystyle 1-a} の確率で x t + 1 = x t {\displaystyle \displaystyle x^{t+1}=x^{t}} マルコフ連鎖はランダムな初期値 x 0 {\displaystyle \displaystyle x^{0}} から開始され、初期値が「忘れられる」まで、多くの試行を繰り返す。この間の標本は棄てられ、burn-in(機械や回路を通電した直後の安定しない状態からの比喩、初期通電)とよばれる。burn-in'後の値 x {\displaystyle x} の集合は、分布 P ( x ) {\displaystyle P(x)} からのサンプルを表す。 M-Hアルゴリズムは提案分布 Q ( x ′ ; x t ) {\displaystyle Q(x';x^{t})} の形が、直接サンプリングが困難である目標分布 P ( x ) {\displaystyle \displaystyle P(x)} の形と類似している場合、つまり Q ( x ′ | x t ) ≈ P ( x ′ ) {\displaystyle Q(x'|x^{t})\approx P(x')\,\!} のときにうまくアルゴリズムが動作する。しかし、多くの場合目標分布の形は未知である。 ガウス分布の提案分布 Q {\displaystyle \displaystyle Q} が用いられる場合は、分散パラメータの σ 2 {\displaystyle \displaystyle \sigma ^{2}} が burn-in 期間のうちに調整される必要がある。これは通常、採択率を計算することで行われる。採択率とは N {\displaystyle \displaystyle N} 個のサンプルのうち採択されたサンプルの割合である。要求される採択率は目標分布によって異なる。理論的には、一次元ガウス分布を目標分布とすると理想的な採択率は約50% であり、N次元ガウス分布の目標分布では約 23% であることが知られている。 σ 2 {\displaystyle \displaystyle \sigma ^{2}} が小さすぎるとサンプリング列は低速混合をおこす。つまり採択率が高くなり標本空間の移動が遅くなる。そのため P ( x ) {\displaystyle \displaystyle P(x)} への収束が遅くなる。逆に σ 2 {\displaystyle \displaystyle \sigma ^{2}} が大きすぎると、採択率が低すぎサンプルが確率密度の低い所に移動してしまい a 1 {\displaystyle \displaystyle a_{1}} が非常に小さくなってしまう。このため P ( x ) {\displaystyle \displaystyle P(x)} への収束が遅くなる。したがって、提案分布のパラメータを調整し採択率を適切にする必要がある。
※この「アルゴリズムの手順」の解説は、「メトロポリス・ヘイスティングス法」の解説の一部です。
「アルゴリズムの手順」を含む「メトロポリス・ヘイスティングス法」の記事については、「メトロポリス・ヘイスティングス法」の概要を参照ください。
- アルゴリズムの手順のページへのリンク
