把估计拉向简单的目标 截断逐个特征值判断它是不是信号，收缩则走更平滑的路：把有噪声的样本矩阵 S S S F F F Σ ∗ = ( 1 − δ ) S + δ F \Sigma^{*}=(1-\delta)S+\delta F Σ ∗ = ( 1 − δ ) S + δ F δ ∈ [ 0 , 1 ] \delta\in[0,1] δ ∈ [ 0 , 1 ] F = μ I F=\mu I F = μ I μ = tr ( S ) / N \mu=\operatorname{tr}(S)/N μ = tr ( S ) / N
Σ ∗ = ( 1 − δ ) S + δ μ I , μ = tr S N , δ = min ( 1 , b 2 d 2 ) , d 2 = ∥ S − μ I ∥ F 2 N \Sigma^{*}=(1-\delta)S+\delta\mu I,\qquad \mu=\frac{\operatorname{tr}S}{N},\qquad \delta=\min\!\Big(1,\frac{b^{2}}{d^{2}}\Big),\qquad d^{2}=\frac{\lVert S-\mu I\rVert_F^{2}}{N} Σ ∗ = ( 1 − δ ) S + δ μ I , μ = N tr S , δ = min ( 1 , d 2 b 2 ) , d 2 = N ∥ S − μ I ∥ F 2 (1) 强度不是自由参数。Ledoit 和 Wolf 证明，对这个目标最优的 δ \delta δ b 2 b^2 b 2 S S S x t x t T \mathbf x_t\mathbf x_t^{T} x t x t T S S S T T T d 2 d^2 d 2 d 2 d^2 d 2 S S S S S S δ \delta δ λ ↦ ( 1 − δ ) λ + δ μ \lambda\mapsto(1-\delta)\lambda+\delta\mu λ ↦ ( 1 − δ ) λ + δ μ δ > 0 \delta>0 δ > 0 S S S Σ ∗ \Sigma^{*} Σ ∗ T T T δ → 0 \delta\to0 δ → 0
2×2 的例子 取
S = ( 4 1 1 2 ) S=\begin{pmatrix}4&1\\1&2\end{pmatrix} S = ( 4 1 1 2 ) ，则
μ = ( 4 + 2 ) / 2 = 3 \mu=(4+2)/2=3 μ = ( 4 + 2 ) /2 = 3 ，
S − μ I = ( 1 1 1 − 1 ) S-\mu I=\begin{pmatrix}1&1\\1&-1\end{pmatrix} S − μ I = ( 1 1 1 − 1 ) 的 Frobenius 范数平方为 4，故
d 2 = 4 / 2 = 2 d^2=4/2=2 d 2 = 4/2 = 2 。若噪声项
b 2 = 0.5 b^2=0.5 b 2 = 0.5 ，强度
δ = 0.5 / 2 = 0.25 \delta=0.5/2=0.25 δ = 0.5/2 = 0.25 。若取
δ = 0.2 \delta=0.2 δ = 0.2 ，则
Σ ∗ = 0.8 S + 0.2 ⋅ 3 I = ( 3.8 0.8 0.8 2.2 ) \Sigma^{*}=0.8S+0.2\cdot3I=\begin{pmatrix}3.8&0.8\\0.8&2.2\end{pmatrix} Σ ∗ = 0.8 S + 0.2 ⋅ 3 I = ( 3.8 0.8 0.8 2.2 ) 。
S S S 的特征值为
3 ± 2 = 4.414 3\pm\sqrt2=4.414 3 ± 2 = 4.414 和
1.586 1.586 1.586 ；
Σ ∗ \Sigma^{*} Σ ∗ 的特征值为
0.8 ( 4.414 ) + 0.6 = 4.131 0.8(4.414)+0.6=4.131 0.8 ( 4.414 ) + 0.6 = 4.131 和
0.8 ( 1.586 ) + 0.6 = 1.869 0.8(1.586)+0.6=1.869 0.8 ( 1.586 ) + 0.6 = 1.869 。条件数从
2.78 2.78 2.78 改善到
2.21 2.21 2.21 。
混合 ：目标 F = μ I F=\mu I F = μ I μ = tr S / N \mu=\operatorname{tr}S/N μ = tr S / N Σ ∗ = ( 1 − δ ) S + δ F \Sigma^{*}=(1-\delta)S+\delta F Σ ∗ = ( 1 − δ ) S + δ F 强度 ：δ = min ( 1 , b 2 / d 2 ) \delta=\min(1,b^2/d^2) δ = min ( 1 , b 2 / d 2 ) 效果 ：保持迹，特征值被拉向均值，δ > 0 \delta>0 δ > 0 T T T δ → 0 \delta\to0 δ → 0 有意引入偏差 收缩有意引入偏差（因为目标是错的），换来方差的大幅下降。估计的期望平方误差会下降，在资产很多的协方差估计中，这笔交易通常非常划算。这与岭回归是同样的偏差-方差交换，也是 Ledoit-Wolf 成为许多库默认协方差估计器的原因。
实验：评分内容 目标的水平 10 分 收缩后的矩阵 20 分 强度 15 分 收缩后的特征值 15 分 新的条件数 15 分 数据越多，收缩越少 15 分 偏差-方差交换 10 分 
