σμimplied vol · KKmax(S−K,0)udβρᵢⱼfat tailsPnL · drawdownyield · TdSₜ = μSₜ dt + σSₜ dWₜC = S·N(d₁) − K·e⁻ʳᵀ·N(d₂)σₚ² = wᵀΣwd₁ = [ln(S/K) + (r + σ²⁄2)T] ⁄ σ√T∂V/∂t + ½σ²S²·∂²V/∂S² + rS·∂V/∂S − rV = 0Sharpe = (Rₚ − R_f) ⁄ σₚVaR₉₉ = μ − 2.33σρ = Cov(X,Y) ⁄ σₓσᵧE[Rₚ] = Σ wᵢ·E[Rᵢ]φ(x) = e^(−x²/2) ⁄ √2πE[Rᵢ] = R_f + βᵢ(E[Rₘ] − R_f)dXₜ = θ(μ − Xₜ)dt + σ dWₜσ²ₜ = ω + α·ε²ₜ₋₁ + β·σ²ₜ₋₁C − P = S − K·e⁻ʳᵀΔ = ∂V/∂S Γ = ∂²V/∂S²p = (e^(rΔt) − d) ⁄ (u − d)rₜ = ln(Pₜ ⁄ Pₜ₋₁)E[Xₜ₊₁ | ℱₜ] = Xₜf* = (bp − q) ⁄ bz = (x − μ) ⁄ σP(N=k) = λᵏe^(−λ) ⁄ k!Θ = −∂V/∂Tν = S·φ(d₁)·√Tmin wᵀΣw s.t. wᵀμ = μ*∫Σ∂∞λ
uantCraft Academy路线图学习路线
Ctrl K
AO
+1.2k 位学习者
登录加入 ↗
路线图学习路线
AO
+1.2k 位学习者
登录
  • English
  • Français
  • Español
  • العربية
  • Português
  • Deutsch
  • 日本語
  • 中文
σμimplied vol · KKmax(S−K,0)udβρᵢⱼfat tailsPnL · drawdownyield · TdSₜ = μSₜ dt + σSₜ dWₜC = S·N(d₁) − K·e⁻ʳᵀ·N(d₂)σₚ² = wᵀΣwd₁ = [ln(S/K) + (r + σ²⁄2)T] ⁄ σ√T∂V/∂t + ½σ²S²·∂²V/∂S² + rS·∂V/∂S − rV = 0Sharpe = (Rₚ − R_f) ⁄ σₚVaR₉₉ = μ − 2.33σρ = Cov(X,Y) ⁄ σₓσᵧE[Rₚ] = Σ wᵢ·E[Rᵢ]φ(x) = e^(−x²/2) ⁄ √2πE[Rᵢ] = R_f + βᵢ(E[Rₘ] − R_f)dXₜ = θ(μ − Xₜ)dt + σ dWₜσ²ₜ = ω + α·ε²ₜ₋₁ + β·σ²ₜ₋₁C − P = S − K·e⁻ʳᵀΔ = ∂V/∂S Γ = ∂²V/∂S²p = (e^(rΔt) − d) ⁄ (u − d)rₜ = ln(Pₜ ⁄ Pₜ₋₁)E[Xₜ₊₁ | ℱₜ] = Xₜf* = (bp − q) ⁄ bz = (x − μ) ⁄ σP(N=k) = λᵏe^(−λ) ⁄ k!Θ = −∂V/∂Tν = S·φ(d₁)·√Tmin wᵀΣw s.t. wᵀμ = μ*∫Σ∂∞λ
uantCraft Academy路线图学习路线
Ctrl K
AO
+1.2k 位学习者
登录加入 ↗
路线图学习路线
AO
+1.2k 位学习者
登录
  • English
  • Français
  • Español
  • العربية
  • Português
  • Deutsch
  • 日本語
  • 中文
Matrix Decompositions 学习路线›模块 2 · SVD 与低秩›主题 2.2·~50分钟中级

低秩逼近

路线进度模块 2/5 · 主题 2/2
2.2 低秩逼近
—实验得分— / 100总 XP—连续天数—

保留矩阵中重要的部分

SVD 把矩阵写成一层层秩一矩阵之和 A=∑iσiuiviTA=\sum_i\sigma_i\mathbf u_i\mathbf v_i^{T}A=∑i​σi​ui​viT​,按从大到小排列。只保留前 kkk 层得到 Ak=UkΣkVkTA_k=U_k\Sigma_kV_k^{T}Ak​=Uk​Σk​VkT​,这是一个秩为 kkk 的矩阵。Eckart-Young 定理说:无论误差用 Frobenius 范数还是谱范数衡量,这种截断都是最好的秩 kkk 逼近。任何巧妙选择的 kkk 个方向都胜不过前 kkk 个奇异方向。

Ak=∑i=1kσiuiviT,∥A−Ak∥F=∑i>kσi2,∥A−Ak∥2=σk+1A_k=\sum_{i=1}^{k}\sigma_i\mathbf u_i\mathbf v_i^{T},\qquad \lVert A-A_k\rVert_F=\sqrt{\sum_{i>k}\sigma_i^{2}},\qquad \lVert A-A_k\rVert_2=\sigma_{k+1}Ak​=i=1∑k​σi​ui​viT​,∥A−Ak​∥F​=i>k∑​σi2​​,∥A−Ak​∥2​=σk+1​(1)

误差恰好就是被舍去的奇异值,所以保留的平方大小占比为 ∑i≤kσi2/∑iσi2\sum_{i\le k}\sigma_i^2\big/\sum_i\sigma_i^2∑i≤k​σi2​/∑i​σi2​,当 AAA 是中心化数据时常称为解释方差。m×nm\times nm×n 矩阵的秩 kkk 逼近只需 k(m+n+1)k(m+n+1)k(m+n+1) 个数而不是 mnmnmn 个,所以低秩同时也是压缩。在金融中,σi\sigma_iσi​ 小的层多半是抽样噪声,截断它们就是去噪,kkk 通常按保留占比的阈值或奇异值中的间隔来选。

奇异值为 10、6、3、1设矩阵的奇异值为 10、6、3、1,平方为 100、36、9、1,和为 146。最佳秩 2 逼近保留 146 中的 100+36=136100+36=136100+36=136,占 93.2%93.2\%93.2%,Frobenius 误差为 9+1=10≈3.16\sqrt{9+1}=\sqrt{10}\approx3.169+1​=10​≈3.16,谱误差为 σ3=3\sigma_3=3σ3​=3。最佳秩 1 逼近的谱误差是 σ2=6\sigma_2=6σ2​=6。对 1000×2501000\times2501000×250 的矩阵,秩 5 只需 5×(1000+250+1)=62555\times(1000+250+1)=62555×(1000+250+1)=6255 个数,而不是 250000 个。
  • Eckart-Young:把 SVD 截断到 kkk 项,在两种范数下都是最佳秩 kkk 逼近。
  • 误差:Frobenius 为 ∑i>kσi2\sqrt{\sum_{i>k}\sigma_i^2}∑i>k​σi2​​,谱范数为 σk+1\sigma_{k+1}σk+1​。
  • 存储:k(m+n+1)k(m+n+1)k(m+n+1) 个数,而非 mnmnmn 个。
选择 k 需要判断没有哪条规则不依赖假设。像 90%90\%90% 这样的固定占比简单但随意,奇异值中出现明显间隔时它很自然,而在本技能后面的协方差场景里,Marchenko-Pastur 边界给出了区分信号与噪声的有依据的阈值。无论用哪种方式,都要在样本外检验这个选择:最能解释训练数据的秩,并不是最能预测新数据的秩。

实验:评分内容

  • Frobenius 误差15 分
  • 保留的占比15 分
  • 秩一逼近15 分
  • 低秩矩阵的存储量10 分
  • Eckart-Young 定理15 分
  • 压缩矩阵15 分
  • 为什么截断能去噪15 分
0/ 已答 7 题
任务
1数值作答15 分未作答

某矩阵的奇异值为 10、6、3、1。其最佳秩 2 逼近的 Frobenius 误差是多少?保留两位小数。

error=error =error=允许误差:± 0.02
2数值作答15 分未作答

对同一个矩阵,秩 2 逼近保留了 Frobenius 范数平方的百分之几?保留一位小数。

kept=kept =kept=允许误差:± 0.1
3矩阵 · 向量15 分未作答

对称矩阵 A=(2112)A=\begin{pmatrix}2&1\\1&2\end{pmatrix}A=(21​12​) 的奇异值为 3 和 1,主方向为 u=v=(1,1)/2\mathbf u=\mathbf v=(1,1)/\sqrt2u=v=(1,1)/2​。计算其最佳秩一逼近 A1=3 uvTA_1=3\,\mathbf u\mathbf v^{T}A1​=3uvT。

A1=A_1 =A1​=
4数值作答10 分未作答

1000×2501000\times2501000×250 的矩阵用 UkU_kUk​、Σk\Sigma_kΣk​、VkV_kVk​ 做秩 5 逼近。按 k(m+n+1)k(m+n+1)k(m+n+1) 计算需要存储多少个数?

numbers=numbers =numbers=允许误差:± 0.5
5选择15 分未作答

Eckart-Young 定理陈述了什么?

6排列步骤15 分未作答

把低秩逼近的步骤按正确顺序排列。

拖动以重新排序;也可聚焦某项,按空格抬起,用方向键移动,再按空格放下。

  1. 1度量误差或保留的方差占比
  2. 2根据奇异值选择 kkk
  3. 3计算矩阵的 SVD
  4. 4用前 kkk 项重建 Ak=UkΣkVkTA_k=U_k\Sigma_kV_k^{T}Ak​=Uk​Σk​VkT​
7用文字解释15 分未作答

用一两句话说明为什么舍去收益矩阵的小奇异值可以去除噪声。

数学模式键盘或 LaTeX 输入第 1/7 题 · Ctrl ⏎ 检查

登录后即可运行你的代码。

所有讲解均可免费阅读。创建账户或登录后,即可运行代码、运行测试并提交此实验。

  • 浏览器内 IDE 与 bash 终端,无需安装
  • 即时评分、XP 以及你在学习路线中的位置
创建账户登录
或
使用 GitHub 继续