AR・MA・ARMAモデル

平均の部品

$p$ 次の自己回帰 AR($p$) は、値を自分自身の過去で説明します：$x_t=c+\varphi_1x_{t-1}+\dots+\varphi_px_{t-p}+\varepsilon_t$。係数が発散を防いでいるとき定常で、AR(1) なら $|\varphi|<1$、平均は $\mu=c/(1-\sum\varphi_i)$ です。$q$ 次の移動平均 MA($q$) は、値を過去のショックで説明します：$x_t=\mu+\varepsilon_t+\theta_1\varepsilon_{t-1}+\dots+\theta_{q}\varepsilon_{t-q}$。常に定常で、記憶はちょうど $q$ ステップです。両者を組み合わせた ARMA($p,q$) は、純粋な AR や MA より少ないパラメータで系列を表せることがよくあります。

パラメータは最尤法で推定します。次数は情報量規準で比べて選びます。AIC $=2k-2\ln L$ と BIC $=k\ln T-2\ln L$（$k$ はパラメータ数、$L$ は尤度）で、小さいほど良く、$k$ への罰則がノイズに合わせるだけの項の追加を防ぎます。$T>7$ では BIC の罰則のほうが重く、小さなモデルが選ばれます。当てはめた後の残差はホワイトノイズに見えるべきで、Ljung-Box 検定で確かめます。定常な AR(1) の予測は平均へ等比的に戻り、$\hat x_{T+h}=\mu+\varphi^{h}(x_T-\mu)$、MA($q$) の予測は $q+1$ ステップ先から平均に等しくなります。定常な ARMA の遠い予測は単なる平均なので、これらのモデルは直近の数ステップには有効ですが、その先では平均より良くなりません。

• AR($p$) は自分の過去の値、MA($q$) は直近 $q$ 個のショック、ARMA は両方に依存する。
• AICとBICは当てはまりを評価しパラメータに罰則を課す。最小値のモデルが選ばれ、BICのほうが厳しい。
• 定常な ARMA の予測は、先に行くほど平均に収束する。

ラボ：採点される内容

• AR(1)の平均15点
• 2ステップ先の予測15点
• MA(1)の自己相関15点
• 情報量規準15点
• 非定常な係数15点
• 用語を結び付ける15点
• 遠い予測が平均に達する理由10点