需要几个状态才够?
市场该有两个状态、三个还是四个?光看拟合优度无法决定。状态更多的模型因自由度更大,对数据的拟合总是至少一样好,状态足够多时还会去拟合噪声。我们需要一个奖励好拟合、但对每个额外参数收费的分数。常用的有两个:AIC=−2lnL+2p 和 BIC=−2lnL+plnn,其中 L 是数据的似然,p 是自由参数个数,n 是观测数。越低越好。当 n 很大时 BIC 对每个参数收费更高,所以偏好更简单的模型。
p=K(K−1)+(K−1)+2K=K2+2K−1,AIC=−2lnL+2p,BIC=−2lnL+plnn(1) 对于 K 个状态的高斯 HMM,自由参数包括 K(K−1) 个自由转移概率、K−1 个自由初始概率,以及每个状态的均值和波动率,共 p=K2+2K−1 个。在 SPY 的 5,404 个日收益上拟合,对数似然为:1 个状态 16,252,2 个 17,521,3 个 17,803,4 个 17,877。增益迅速缩小:1,269,然后 282,然后只有 75。BIC 在 4 个状态时最低,但比 3 个状态只改进了 72,而且多出的状态难以解释。可解释性、在新数据上的稳定性以及增益的大小,与分数同样重要。
SPY 的分数3 个状态有
p=14 个参数。取
lnL=17,802.7、
lnn=ln5404=8.595:
BIC=−35,605.3+14×8.595=−35,485.0,
AIC=−35,605.3+28=−35,577.3。2 个状态
p=7、
lnL=17,520.7,所以
BIC=−35,041.4+60.2=−34,981.3,比 3 个状态高得多(差得多)。从 3 个状态增加到 4 个,多出 9 个参数,对数似然只增加
74.5。
- 状态越多拟合总是越好,所以仅凭拟合无法选出状态数。
- AIC 与 BIC 对每个参数扣除一个代价;BIC 每个参数扣 lnn,因此偏好更简单的模型。
- 要看增益大小和可解释性,而不只是最低分。
实验:评分内容
- 三个状态的参数个数10 分
- 两个状态的参数个数10 分
- 一个 BIC15 分
- 一个 AIC15 分
- 第四个状态的增益10 分
- 为什么不能只选拟合最好的10 分
- 配对术语15 分
- 为什么保留三个状态15 分