分散 (確率論)

ウィキペディア

索引トップ用語の索引ランキングカテゴリー

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2023/11/01 17:20 UTC 版)

言葉の由来

英語の variance（バリアンス）という語はロナルド・フィッシャーが1918年に導入した^[3]。

確率変数の分散

2乗可積分確率変数 $X$ の分散は期待値を $E [X]$ で表すと

V[X]=E{\big [}(X-E[X])^{2}{\big ]}

で定義される。これを展開して整理すると

{\begin{alignedat}{5}V[X]&=E{\big [}(X-E[X])^{2}{\big ]}\\&=E{\big [}X^{2}-2XE[X]+(E[X])^{2}{\big ]}\\&=E[X^{2}]-2E{\big [}XE[X]{\big ]}+E{\big [}(E[X])^{2}{\big ]}\\&=E[X^{2}]-2E[X]E[X]+(E[X])^{2}(\because E[X]=Const)\\&=E[X^{2}]-(E[X])^{2}\\\end{alignedat}}

とも書ける。また確率変数 $X$ の特性関数を $φ X (t) = E [e itX]$ とおくと（ $i$ は虚数単位）、これは 2階連続的微分可能で

V[X]=-\varphi _{X}''(0)+(\varphi _{X}'(0))^{2}

と表示することもできる。

チェビシェフの不等式から、任意の正の数 $ε$ に対して

P(|X-E[X]|>\varepsilon )\leq {\frac {V(X)}{\varepsilon ^{2}}}

が成り立つ。これは分散が小さくなるほど確率変数が期待値に近い値をとりやすくなることを示す大まかな評価である。

性質

$X, X 1, \dots, X n$ を確率変数、 $a, b, a 1, \dots, a n$ を定数とし、共分散を $Cov[ \cdot , \cdot ]$ で表すと

$V[X]\geq 0$ （非負性）
$V[X+b]=V(X)$ （位置母数（英語版）に対する不変性）
$V[aX]=a^{2}V(X)$ （斉次性）
$V{\bigl [}\textstyle \sum \limits _{i}a_{i}X_{i}{\bigr ]}=\sum \limits _{i,j}a_{i}a_{j}\operatorname {Cov} [X_{i},X_{j}]$

を満たす。したがって、特に $X 1, \dots, X n$ が独立ならば、

\operatorname {Cov} [X_{i},X_{j}]={\begin{cases}V(X_{i})&(i=j)\\0&(i\neq j)\end{cases}}

より

V[X_{1}+\dotsb +X_{n}]=V[X_{1}]+\dotsb +V[X_{n}]

が成り立つ。

例

確率変数 $X$ が一様分布 $U (a, b)$ に従うとき、 $V (X) = (b - a) 2 / 12$
確率変数 $X$ が正規分布 $N (μ, σ 2)$ に従うとき、 $V (X) = σ 2$
確率変数 $X$ が二項分布 $B (n, p)$ に従うとき、 $V (X) = np (1 - p)$
確率変数 $X$ がポアソン分布 $Po(λ)$ に従うとき、 $V (X) = λ$

データの分散

推計統計学では、母集団の分散と標本の分散を区別する必要がある。

母分散

大きさが $n$ である母集団 $x 1, x 2, \dots, x n$ に対して、平均値を $μ$ で表すとき、偏差の自乗の平均値

\sigma ^{2}={\frac {1}{n}}\textstyle \sum \limits _{i=1}^{n}(x_{i}-\mu )^{2}

を母分散（ぼぶんさん、英: population variance）と言う^[4]。

標本分散・不偏標本分散

大きさが $n$ である標本 $x 1, x 2, \dots, x n$ に対して、平均値を $x$ で表すとき、偏差の自乗の平均値

s^{2}={\frac {1}{n}}\textstyle \sum \limits _{i=1}^{n}(x_{i}-{\bar {x}})^{2}

で定義される $s 2$ を標本分散（ひょうほんぶんさん、英: sample variance）と言う。 $s$ は標準偏差と呼ばれる^[4]。

定義より、

s^{2}={\frac {1}{n}}\textstyle \sum \limits _{i=1}^{n}{x_{i}}^{2}-({\bar {x}})^{2}={\overline {x^{2}}}-({\bar {x}})^{2}

となるから、標本分散は2乗の平均値と平均値の2乗との差に等しい。ただし、この計算では概して二乗平均が巨大になるため、浮動小数点数による近似計算を行う場合には大きな丸め誤差が生じる可能性がある（桁落ち）。このため、浮動小数点数を扱う場合には定義に従って偏差の二乗和を計算することが一般的である（あるいは一般の総和計算と同じくカハンの加算アルゴリズムやpairwise summation（英語版）のような手法により、誤差を小さくする工夫がなされることもある）。

一般に、標本分散の平均値は母分散より少し小さくなる。実際には、平均と分散を持つ同一分布からの無作為標本に対して、標本分散の期待値 $E [s 2]$ について、