移動・指数・オンライン推定量

推定量にどれだけの記憶を持たせるか

市場が変わり続けるとき、推定量には薄れていく記憶が必要です。移動窓は直近 $W$ 個の観測に等しい重みを与え、それより古いものには与えないので、大きな日が入ったときと、$W$ 日後にそれが出ていくときに推定量が跳ねます。指数加重推定は $k$ 日前の観測に重み $(1-\lambda)\lambda^{k}$ を与え、過去が滑らかに薄れます。その分散推定は昨日の値だけで済みます：$s_t^{2}=\lambda s_{t-1}^{2}+(1-\lambda)r_t^{2}$。完全なオンライン推定は新しい観測だけで更新してそれを忘れます。たとえば逐次平均 $m_n=m_{n-1}+(x_n-m_{n-1})/n$ です。

3つのどれにも同じ考えが通っています。新しい推定値＝古い推定値＋ゲイン $\times$ 驚き。一定のゲイン $g=1-\lambda$ が指数推定量を与え、ゲイン $1/n$ が全データの単純平均を与えます。カルマンフィルタはノイズの大きさからゲインを自分で決める、筋の通った版です。記憶にはトレードオフがあります。短い記憶は変化に速く追随しますがノイズが大きく、長い記憶は滑らかですが遅いのです。半減期 $\ln(1/2)/\ln\lambda$ は観測が重みを半分失うまでの日数を、有効窓 $(1+\lambda)/(1-\lambda)$ は同程度のノイズをもつ等重み窓の長さを表します。日次でよく使う $\lambda=0.94$ の半減期は $11.2$ 日、有効窓は $32.3$ 日です。

• 同じレシピ：新＝旧＋ゲイン $\times$ 驚き。ゲインが記憶の長さを決める。
• 移動窓は急、指数は滑らか：移動窓は古いデータを一度に捨て、指数は薄れさせる。
• 記憶はトレードオフ：短い記憶は速くてノイズが多く、長い記憶は遅くて滑らか。

ラボ：採点される内容

• 指数加重の更新15点
• 半減期10点
• 有効窓10点
• 古い観測10点
• オンライン平均10点
• どれが急に忘れるか10点
• オンライン更新10点
• 用語を結び付ける10点
• なぜ指数のほうが速く反応するのか15点