推定を単純なものに近づける
クリッピングは固有値ごとにシグナルかどうかを決めます。縮小推定はもっと滑らかな道を取り、ノイズの多い標本行列 S を、単純で条件の良い目標 F と混ぜます。Σ∗=(1−δ)S+δF で、強度 δ∈[0,1] が目標をどれだけ信頼するかを表します。古典的な目標は平均分散 μ=tr(S)/N を使ったスケール付き単位行列 F=μI で、全資産の分散が同じで無相関だと主張します。これは確実に間違いですが安定していて、少し混ぜるだけで多くのノイズを打ち消せます。
Σ∗=(1−δ)S+δμI,μ=NtrS,δ=min(1,d2b2),d2=N∥S−μI∥F2(1) 強度は自由なパラメータではありません。レドイトとウルフは、この目標に対する最適な δ に閉じた式があることを示しました。分子 b2 は S のノイズの大きさ(1日分の行列 xtxtT の S からの平均2乗距離を T で割り、d2 で頭打ちにしたもの)を表し、分母 d2 は S が目標からどれだけ離れているかを表します。ノイズが大きく目標に近い S には大きな δ が与えられます。縮小には3つの整った性質があります。トレースを保つこと、各固有値を平均に近づける(λ↦(1−δ)λ+δμ)ので大きい方は縮み小さい方は増えること、そして S が特異でも δ>0 なら Σ∗ が正定値になることです。T が増えるとノイズ項が減り δ→0 になります。
2×2の例S=(4112) とすると、
μ=(4+2)/2=3、
S−μI=(111−1) のフロベニウスノルムの2乗は4なので
d2=4/2=2 です。ノイズ項が
b2=0.5 なら強度は
δ=0.5/2=0.25。代わりに
δ=0.2 とすると
Σ∗=0.8S+0.2⋅3I=(3.80.80.82.2) です。
S の固有値は
3±2=4.414 と
1.586、
Σ∗ の固有値は
0.8(4.414)+0.6=4.131 と
0.8(1.586)+0.6=1.869。条件数は
2.78 から
2.21 に改善します。
- 混合:目標 F=μI(μ=trS/N)で Σ∗=(1−δ)S+δF。
- 強度:δ=min(1,b2/d2)。ノイズが大きく目標に近い行列ほど強く縮小される。
- 効果:トレース保存、固有値が平均へ近づく、δ>0 なら正定値、T が増えると δ→0。
意図的なバイアス縮小推定は目標が間違っているために意図的にバイアスを加え、その代わりに分散を大きく減らします。推定の期待2乗誤差は下がり、多数の資産の共分散推定ではたいてい非常に有利な取引になります。リッジ回帰と同じバイアスと分散のトレードオフで、これがレドイト・ウルフが多くのライブラリで共分散推定器の既定になっている理由です。
ラボ:採点される内容
- 目標の水準10点
- 縮小した行列20点
- 強度15点
- 縮小後の固有値15点
- 新しい条件数15点
- データが増えれば縮小は弱まる15点
- バイアスと分散のトレードオフ10点