一般化線形モデル 実例

ウィキペディア

一般化線形モデル

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2024/04/09 01:40 UTC 版)

実例

正規分布に従うモデル

既知の値 $\sigma ^{2}$ を用いて $a(\theta )=\theta ^{2}/2$, $\phi =\sigma ^{2}$, $c(y,\,\phi )=-\left(y^{2}/\sigma ^{2}+\log {2\pi \sigma ^{2}}\right)/2$ と表されるとき、$f(y;\theta )={\frac {1}{{\sqrt {2\pi }}\sigma }}\exp {\left(-{\frac {(y-\theta )^{2}}{2\sigma ^{2}}}\right)}$ は平均 $\theta$, 分散 $\sigma ^{2}$ の正規分布に相当する。

リンク関数として $g(\theta )=\theta$ (正準リンク<canonical link>とよぶ) を取るとき、これは、正規線型モデル (通常の線型回帰) に相当する。平均 $\theta$ は $\mathbf {x} ^{T}\,{\boldsymbol {\beta }}$ で与えられる。

ベルヌーイ分布に従うモデル

$p=e^{\theta }/(1+e^{\theta })$ を用いて $a(\theta )=-\log {(1-p)}$, $\phi =1$, $c=0$ と表されるとき、$f(y;\theta )=p^{y}(1-p)^{1-y}$ は生起確率 $p$ のベルヌーイ分布に相当する。

リンク関数として $g(\theta )=\theta$ を取るとき、これはロジスティック回帰モデル (logistic regression model) に相当する。$Y=1,0$ の確率は、それぞれ、

$P(Y=1\mid \mathbf {x} )={\frac {\exp {(\mathbf {x} ^{T}\,{\boldsymbol {\beta }})}}{1+\exp {(\mathbf {x} ^{T}\,{\boldsymbol {\beta }})}}}$

$P(Y=0\mid \mathbf {x} )={\frac {1}{1+\exp {(\mathbf {x} ^{T}\,{\boldsymbol {\beta }})}}}$

で与えられる。

リンク関数として $g(\theta )=\psi ^{-1}(p)$ (ただし、$\psi$ は標準正規分布の累積分布関数) を取るとき、これはプロビット回帰モデルに相当する。$p=\psi (\mathbf {x} ^{T}\,{\boldsymbol {\beta }})$となる。

パラメーターの決定には、ニュートン法を用いた最尤法などがある。