ラグランジュの未定乗数法による導出
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2021/03/28 03:22 UTC 版)
「レイリー商」の記事における「ラグランジュの未定乗数法による導出」の解説
レイリー商に関する関係はラグランジュの未定乗数法を用いても導くことができる。問題は R ( M , x ) = x ∗ M x , subject to ‖ x ‖ 2 = x ∗ x = 1 {\displaystyle R({\boldsymbol {M}},{\boldsymbol {x}})={\boldsymbol {x}}^{*}{\boldsymbol {M}}{\boldsymbol {x}},\quad {\text{subject to }}\|{\boldsymbol {x}}\|^{2}={\boldsymbol {x}}^{*}{\boldsymbol {x}}=1} の停留点を求めることである。拘束条件として x のノルムを1にしているのは、0以外でスカラー倍してもレイリー商は変わらないためである。 ラグランジュ関数 L {\displaystyle \textstyle {\mathcal {L}}} と未定乗数 λ で書き直すと、 L ( x ) = x ∗ M x − λ ( x ∗ x − 1 ) . {\displaystyle {\mathcal {L}}({\boldsymbol {x}})={\boldsymbol {x}}^{*}{\boldsymbol {M}}{\boldsymbol {x}}-\lambda ({\boldsymbol {x}}^{*}{\boldsymbol {x}}-1).} の停留点 δ L ( x ) = 0 {\displaystyle \delta {\mathcal {L}}({\boldsymbol {x}})=0} を求めることになる。変分を計算すると、 δ x ∗ ( M x − λ x ) + ( x ∗ M − λ x ∗ ) δ x = 0 ∴ M x = λ x . {\displaystyle {\begin{aligned}\delta {\boldsymbol {x}}^{*}({\boldsymbol {M}}{\boldsymbol {x}}-\lambda {\boldsymbol {x}})+({\boldsymbol {x}}^{*}{\boldsymbol {M}}-\lambda {\boldsymbol {x}}^{*})\delta {\boldsymbol {x}}&=0\\\therefore {\boldsymbol {M}}{\boldsymbol {x}}&=\lambda {\boldsymbol {x}}.\end{aligned}}} なので、停留点において未定乗数 λ は M の固有値で、x は対応する固有ベクトルであり、レイリー商は R ( M , x ) = x ∗ M x x ∗ x = λ , {\displaystyle R({\boldsymbol {M}},{\boldsymbol {x}})={\frac {{\boldsymbol {x}}^{*}{\boldsymbol {M}}{\boldsymbol {x}}}{{\boldsymbol {x}}^{*}{\boldsymbol {x}}}}=\lambda ,} すなわち L {\displaystyle \textstyle {\mathcal {L}}} の停留値となる。この性質は主成分分析や正準相関分析(英語版)の基礎となっている。
※この「ラグランジュの未定乗数法による導出」の解説は、「レイリー商」の解説の一部です。
「ラグランジュの未定乗数法による導出」を含む「レイリー商」の記事については、「レイリー商」の概要を参照ください。
- ラグランジュの未定乗数法による導出のページへのリンク