自己回帰モデル 例: AR(1) 過程

ウィキペディア

自己回帰モデル

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2024/06/02 08:42 UTC 版)

例: AR(1) 過程

AR(1) 過程は以下で与えられる。

$X_{t}=c+\varphi X_{t-1}+\varepsilon _{t}\,$

ここで $\varepsilon _{t}$ は平均0のホワイトノイズ過程でありその分散は定数 $\sigma _{\varepsilon }^{2}$ である（注記: $\varphi _{1}$ の下につく添え字をなくしている）。もし $|\varphi |<1$ ならば、この確率過程は弱定常である。というのもこの過程はホワイトノイズを入力とする定常フィルターの出力として得られるからである（もし $\varphi =1$ ならば $X_{t}$ の分散は無限大となり、ゆえに弱定常ではなくなる）。結果として、$|\varphi |<1$ を仮定すれば、平均 $\operatorname {E} (X_{t})$ は全ての t の値について同じとなる。もし平均を $\mu$ と書くのであれば、以下の式

$\operatorname {E} (X_{t})=\operatorname {E} (c)+\varphi \operatorname {E} (X_{t-1})+\operatorname {E} (\varepsilon _{t}),$

より次の式

$\mu =c+\varphi \mu +0,$

が成り立ち、ゆえに以下が得られる。

$\mu ={\frac {c}{1-\varphi }}.$

特に、 $c=0$ ならば、平均は0である。

分散は以下のように定まる。

$\operatorname {var} (X_{t})=\operatorname {E} (X_{t}^{2})-\mu ^{2}={\frac {\sigma _{\varepsilon }^{2}}{1-\varphi ^{2}}},$

ここで $\sigma _{\varepsilon }$ は $\varepsilon _{t}$ の標準偏差である。これは以下の式、

$\operatorname {var} (X_{t})=\varphi ^{2}\operatorname {var} (X_{t-1})+\sigma _{\varepsilon }^{2},$

と上の量は安定な不動点となることから示される。

自己共分散は以下で与えられる。

$B_{n}=\operatorname {E} (X_{t+n}X_{t})-\mu ^{2}={\frac {\sigma _{\varepsilon }^{2}}{1-\varphi ^{2}}}\,\,\varphi ^{|n|}.$

自己共分散関数は $\tau =-1/\ln(\varphi )$ の減衰時間（または時定数）で減衰していくことが分かる[これを見るために $B_{n}=K\phi ^{|n|}$ と書く。ここで $K$ は $n$ に依存しない。この時、$\phi ^{|n|}=e^{|n|\ln \phi }$ であり、指数減衰法則 $e^{-n/\tau }$ と一致する]。

スペクトル密度とは自己共分散関数のフーリエ変換である。離散時間の場合、フーリエ変換は離散時間フーリエ変換に対応する。

$\Phi (\omega )={\frac {1}{\sqrt {2\pi }}}\,\sum _{n=-\infty }^{\infty }B_{n}e^{-i\omega n}={\frac {1}{\sqrt {2\pi }}}\,\left({\frac {\sigma _{\varepsilon }^{2}}{1+\varphi ^{2}-2\varphi \cos(\omega )}}\right).$

この表現は $X_{j}$ の離散的性質により周期的となり、それは分母におけるコサイン項によって明らかとなっている。もしサンプリング時間 ($\Delta t=1$) が減衰時間 ($\tau$) より非常に小さいと仮定するならば、$B_{n}$ の連続体近似を用いることが出来る。

$B(t)\approx {\frac {\sigma _{\varepsilon }^{2}}{1-\varphi ^{2}}}\,\,\varphi ^{|t|}$

これにより、コーシー分布（ローレンツ型プロファイル）のスペクトル密度が得られる。

$\Phi (\omega )={\frac {1}{\sqrt {2\pi }}}\,{\frac {\sigma _{\varepsilon }^{2}}{1-\varphi ^{2}}}\,{\frac {\gamma }{\pi (\gamma ^{2}+\omega ^{2})}}$

ここで $\gamma =1/\tau$ は減衰時間 $\tau$ に対応した角周波数である。

$X_{t-1}$ についての $c+\varphi X_{t-2}+\varepsilon _{t-1}$ を定義式にまず代入することで、$X_{t}$ の別表現が得られる。これを N 回繰り返せば

$X_{t}=c\sum _{k=0}^{N-1}\varphi ^{k}+\varphi ^{N}X_{t-N}+\sum _{k=0}^{N-1}\varphi ^{k}\varepsilon _{t-k}.$

となる。N を無限大まで発散させれば、$\varphi ^{N}$ は0に近づき、

$X_{t}={\frac {c}{1-\varphi }}+\sum _{k=0}^{\infty }\varphi ^{k}\varepsilon _{t-k}.$

となる。$X_{t}$ は $\varphi ^{k}$ の核で畳み込まれたホワイトノイズに定数の平均を足したものとなることが分かる。もしホワイトノイズ $\varepsilon _{t}$ がガウス過程ならば $X_{t}$ もまたガウス過程である。他の場合として、中心極限定理により $\varphi$ が1に近づけば $X_{t}$ は正規分布に近似的に近づくことが分かる。

AR(1) 過程の解析的な平均と差分の形式

AR(1) 過程は連続時間におけるオルンシュタイン＝ウーレンベック過程の離散時間のアナロジーである。ゆえに AR(1) モデルの性質を理解するために同様の形式に変換することが時として有用になる。この形式において AR(1) モデルは以下で与えられる。

$X_{t+1}=X_{t}+\theta (\mu -X_{t})+\epsilon _{t+1}\,$

ここで $|\theta |<1\,$ であり $\mu$ はモデルの平均である。これを $X_{t+1}=c+\phi X_{t}\,$ の式に当てはめ $X_{t+n}\,$ についての系列に展開することで次が示される。

$\operatorname {E} (X_{t+n}|X_{t})=\mu \left[1-\left(1-\theta \right)^{n}\right]+X_{t}(1-\theta )^{n}$, and

$\operatorname {Var} (X_{t+n}|X_{t})=\sigma ^{2}{\frac {\left[1-(1-\theta )^{2n}\right]}{1-(1-\theta )^{2}}}$.