更新則の定義
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2020/07/12 04:46 UTC 版)
「変分メッセージパッシング」の記事における「更新則の定義」の解説
上式で得られた下限はできるだけ大きくなることが望ましい。なぜならこれは下限であるので、下限を本来の尤度 log P {\displaystyle \log P} に近づけることは近似精度の向上に繋がるためである。先の独立の仮定を付与した分布 Q {\displaystyle Q} を代入することによって、隠れノード H i {\displaystyle H_{i}} でパラメータ化された L ( Q ) {\displaystyle L(Q)} は単純に、 Q j {\displaystyle Q_{j}} と下式によって定義された Q j ∗ {\displaystyle Q_{j}^{*}} 間の相対エントロピーと、 Q j {\displaystyle Q_{j}} に関与しない他の項の和によって表現される: Q j ∗ ( H j ) = 1 Z e E − j { ln P ( H , V ) } {\displaystyle Q_{j}^{*}(H_{j})={\frac {1}{Z}}e^{\mathbb {E} _{-j}\{\ln P(H,V)\}}} ここで、 E − j { ln P ( H , V ) } {\displaystyle \mathbb {E} _{-j}\{\ln P(H,V)\}} は Q j {\displaystyle Q_{j}} を除くすべての分布 Q i {\displaystyle Q_{i}} 上での期待値を表す。ゆえに、 Q j {\displaystyle Q_{j}} を Q j ∗ {\displaystyle Q_{j}^{*}} に設定した場合において、下限 L {\displaystyle L} は最大化される。
※この「更新則の定義」の解説は、「変分メッセージパッシング」の解説の一部です。
「更新則の定義」を含む「変分メッセージパッシング」の記事については、「変分メッセージパッシング」の概要を参照ください。
- 更新則の定義のページへのリンク
