多変量正規分布

ウィキペディア

索引トップ用語の索引ランキングカテゴリー

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/12/07 06:29 UTC 版)

定義

標準正規確率変数ベクトル

実数値確率変数から成るベクトル $\mathbf {X} =(X_{1},\ldots ,X_{k})^{\mathrm {T} }$ が標準正規確率変数ベクトル（standard normal random vector）であるとは、それらの成分 $X_{n}$ が独立であって、いずれも平均 0、分散 1 の正規分布に従っている（全ての $n$ に対し、 $X_{n}\sim \ {\mathcal {N}}(0,1)$ ）ことを言う^[1]^{:p. 454}。

中心化正規確率変数ベクトル

実数値確率変数から成るベクトル $\mathbf {X} =(X_{1},\ldots ,X_{k})^{\mathrm {T} }$ が中心化正規確率変数ベクトル（centered normal random vector）であるとは、 $k\times \ell$ 実成分定行列 ${\boldsymbol {A}}$ が存在して、 ${\boldsymbol {A}}\mathbf {Z}$ が $\mathbf {X}$ と同一の確率分布に従うことを言う。ここで $\mathbf {Z}$ は $\ell$ 次元標準正規確率変数ベクトルである^[1]^{:p. 454}。

正規確率変数ベクトル

確率変数ベクトル $\mathbf {X} =(X_{1},\ldots ,X_{k})^{\mathrm {T} }$ が正規確率変数ベクトルであるとは、 $\ell$ 成分の標準正規確率変数ベクトル $\mathbf {Z}$ 、 $k$ 次元平均ベクトル $\mathbf {\mu }$ 、および $k\times \ell$ 行列 ${\boldsymbol {A}}$ があって、 $\mathbf {X} ={\boldsymbol {A}}\mathbf {Z} +\mathbf {\mu }$ と書けることを言う^[2]^{:p. 454}^[1]^{:p. 455}。

形式的に表すと：

$\mathbf {X} \ \sim \ {\mathcal {N}}(\mathbf {\mu } ,{\boldsymbol {\Sigma }})\quad \iff \quad {\text{there exist }}\mathbf {\mu } \in \mathbb {R} ^{k},{\boldsymbol {A}}\in \mathbb {R} ^{k\times \ell }{\text{ such that }}\mathbf {X} ={\boldsymbol {A}}\mathbf {Z} +\mathbf {\mu } {\text{ for }}Z_{n}\sim \ {\mathcal {N}}(0,1),{\text{i.i.d.}}$

このとき共分散行列は ${\boldsymbol {\Sigma }}={\boldsymbol {A}}{\boldsymbol {A}}^{\mathrm {T} }$ となる。

共分散行列が非正則である（退化している）場合、対応する多変量正規分布は（連続であるような）確率密度関数を持たない。このような事態は統計学ではしばしば起こり、例えば、最小二乗法における残差ベクトルがそうした分布に従うことがある。

また、ここでの成分 $X_{i}$ の集まりは一般的には独立な確率変数ではないことに注意する。これらは独立な正規確率変数の集まり $\mathbf {Z}$ に行列 ${\boldsymbol {A}}$ を作用させたものである。

同値な定義

上記の定義で用いた条件は、以下のいずれの条件とも同値である。ベクトル値確率変数 $\mathbf {X} =(X_{1},\ldots ,X_{k})^{T}$ はこれらのいずれかが成り立つとき、多変量正規分布に従うと言う。

任意の線型結合 $Y=a_{1}X_{1}+\cdots +a_{k}X_{k}$ （ $\mathbf {a} \in \mathbb {R} ^{k}$ を定ベクトルとして $Y=\mathbf {a} ^{\mathrm {T} }\mathbf {X}$ ）が（1変量）正規分布に従う。ただし分散が 0 の正規分布とは、その平均の位置に確率 1 の確率質量を持つような確率分布を意味することとする。
k 成分ベクトル $\mathbf {\mu }$ と $k\times k$ 対称半正定値行列 ${\boldsymbol {\Sigma }}$ が存在して、 $\mathbf {X}$ の特性関数が

\varphi _{\mathbf {X} }(\mathbf {u} )=\exp {\Big (}i\mathbf {u} ^{T}{\boldsymbol {\mu }}-{\tfrac {1}{2}}\mathbf {u} ^{T}{\boldsymbol {\Sigma }}\mathbf {u} {\Big )}

と書ける。

球面正規分布（spherical normal distribution）とは、どんな直交座標系で表示しても確率変数ベクトルの各成分が独立となるような分布、と特徴付けられる^[3]^[4]。

脚注

^ ^a ^b ^c Lapidoth, Amos (2009). A Foundation in Digital Communication. Cambridge University Press. ISBN 978-0-521-19395-5
^ Gut, Allan (2009). An Intermediate Course in Probability. Springer. ISBN 978-1-441-90161-3
^ Kac, M. (1939). “On a characterization of the normal distribution”. American Journal of Mathematics 61 (3): 726–728. doi:10.2307/2371328. JSTOR 2371328.
^ Sinz, Fabian; Gerwinn, Sebastian; Bethge, Matthias (2009). “Characterization of the p-generalized normal distribution”. Journal of Multivariate Analysis 100 (5): 817–820. doi:10.1016/j.jmva.2008.07.006.
^ UIUC, Lecture 21. The Multivariate Normal Distribution, 21.5:"Finding the Density".
^ Hamedani, G. G.; Tata, M. N. (1975). “On the determination of the bivariate normal distribution from distributions of linear combinations of the variables”. The American Mathematical Monthly 82 (9): 913–915. doi:10.2307/2318494. JSTOR 2318494.
^ Wyatt, John. “Linear least mean-squared error estimation”. Lecture notes course on applied probability. 2012年1月23日閲覧。
^ 周辺分布についての正式な証明は http://fourier.eng.hmc.edu/e161/lectures/gaussianprocess/node7.html 参照。
^ Gentle, J.E. (2009). Computational Statistics. Statistics and Computing. New York: Springer. pp. 315–316. doi:10.1007/978-0-387-98144-4. ISBN 978-0-387-98143-7. http://cds.cern.ch/record/1639470