AR MA 与 ARMA 模型

均值模型的基本构件

$p$ 阶自回归 AR($p$) 用自身的过去解释当前值：$x_t=c+\varphi_1x_{t-1}+\dots+\varphi_px_{t-p}+\varepsilon_t$。当系数使序列不会发散时它是平稳的，对 AR(1) 即 $|\varphi|<1$，其均值为 $\mu=c/(1-\sum\varphi_i)$。$q$ 阶移动平均 MA($q$) 用过去的冲击解释当前值：$x_t=\mu+\varepsilon_t+\theta_1\varepsilon_{t-1}+\dots+\theta_q\varepsilon_{t-q}$。它总是平稳的，记忆恰好是 $q$ 步。两者结合得到 ARMA($p,q$)，往往比单纯的 AR 或 MA 用更少的参数就能描述一个序列。

参数用最大似然估计。阶数通过比较信息准则来选择：AIC $=2k-2\ln L$ 与 BIC $=k\ln T-2\ln L$，其中 $k$ 是参数个数，$L$ 是似然值；越小越好，对 $k$ 的惩罚能防止加入只拟合噪声的项。当 $T>7$ 时 BIC 的惩罚更重，因此倾向选择更小的模型。拟合之后残差应像白噪声，用 Ljung-Box 检验检查。平稳 AR(1) 的预测按几何速度回到均值，$\hat x_{T+h}=\mu+\varphi^{h}(x_T-\mu)$，MA($q$) 的预测从 $q+1$ 步起等于均值。任何平稳 ARMA 的远期预测都只是均值，所以这类模型对接下来的几步有用，之后并不比平均值更好。

• AR($p$) 依赖自身的过去值，MA($q$) 依赖最近 $q$ 个冲击，ARMA 两者都依赖。
• AIC 与 BIC 奖励拟合、惩罚参数；取值最小的模型胜出，BIC 更严格。
• 平稳 ARMA 的预测随着预测期变长收敛到均值。

实验：评分内容

• AR(1) 的均值15 分
• 两步预测15 分
• MA(1) 的自相关15 分
• 信息准则15 分
• 非平稳的系数15 分
• 配对术语15 分
• 为什么远期预测会到达均值10 分