用 PCA 与核 PCA 降维

路线进度模块 4/4 · 主题 2/4

4.2 用 PCA 与核 PCA 降维

—实验得分— / 100总 XP—连续天数—

更少的数却保留故事

股票会一起变动，所以 54 条月度收益序列包含的信息远少于 54 个独立信息。主成分分析（PCA）找出新的坐标轴（主成分），按它们承载数据方差的多少排序：第一轴指向离散最大的方向，第二轴与之垂直并承载次大的方差，依此类推。就协方差矩阵而言，这些轴是它的特征向量，轴上的方差是它的特征值。第 $k$ 个成分的方差占比是 $\lambda_k/\sum_j\lambda_j$ 。保留前几个成分，就能以很小的损失简短地描述数据。

\Sigma v_k=\lambda_k v_k,\qquad r_k=\frac{\lambda_k}{\sum_j\lambda_j},\qquad k(x,y)=e^{-\gamma\|x-y\|^{2}}

(1)

PCA 在中心化的数据和尺度相近的特征上工作，所以要先标准化。它的轴是线性的，适合市场，因为大多数股票共享一个共同的走势。核 PCA 则在由核函数（如 RBF 核 $e^{-\gamma d^{2}}$ ，衡量两点有多近）构造的空间里做 PCA，因此能跟随弯曲的结构。有两点提醒：成分是所有输入的混合，给它命名只是猜测；前几个成分是方差最大的来源，而不是预测力最强的。在金融中第一成分是市场，接下来几个是行业，而基于成分拟合的模型仍然要在之后的数据上检验。

2×2 的例子与 54 只股票取协方差矩阵

\begin{pmatrix}2&1\\1&2\end{pmatrix}

，它的特征值为

3

和

1

，所以第一成分承载

3/(3+1)=75\%

的方差，第二成分承载

25\%

。第一轴是

(1,1)/\sqrt2

。点

(1,1)

在其上的投影为

(1+1)/\sqrt2=1.414

，而点

(1,-1)

投影为

0

，被单成分模型丢失，平方误差为

2

。对

\gamma=0.5

、距离平方为

2

的 RBF 核，相似度为

e^{-1}=0.368

。在

54

只真实股票的

319

个月度收益上，第一成分承载

29.5\%

的方差，第二成分

8.4\%

，第三成分

5.5\%

；达到

80\%

需要

22

个成分，达到

90\%

需要

32

个，所以在

80\%

的水平上，简短描述省去了

54

个数中的

32

个。

按方差排序的轴：第一成分是离散最大的方向，之后的每个都与前面垂直。
先标准化：PCA 追随方差，数值大的特征会占主导。
方差不等于预测：最大的成分不一定是有用的。

实验：评分内容

第一成分的占比15 分
投影10 分
重构误差10 分
RBF 核的值10 分
节省的数5 分
为什么在 PCA 之前要标准化10 分
PCA 的步骤10 分
配对术语15 分
大成分不等于有用成分15 分

0/ 已答 9 题

1数值作答15 分未作答

某协方差矩阵的特征值为 $3$ 和 $1$ 。第一成分承载多大比例的方差？以小数形式保留两位。

r =

允许误差:± 0.005

2数值作答10 分未作答

第一轴是 $(1,1)/\sqrt2$ 。点 $(1,1)$ 在其上的坐标 $(1+1)/\sqrt2$ 是多少？保留三位小数。

p =

允许误差:± 0.003

3数值作答10 分未作答

点 $(1,-1)$ 在第一轴上投影为 $0$ ，所以单成分模型把它重构为 $(0,0)$ 。重构的平方误差是多少？

e =

允许误差:± 0.01

4数值作答10 分未作答

RBF 核为 $e^{-\gamma d^{2}}$ 。当 $\gamma=0.5$ 、距离平方 $d^{2}=2$ 时，相似度是多少？保留三位小数。

k =

允许误差:± 0.002

5数值作答5 分未作答

对 $54$ 只真实股票， $22$ 个成分承载 $80\%$ 的方差。只保留这 $22$ 个，可以节省 $54$ 个数中的多少个？

s =

允许误差:± 0.01

6选择10 分未作答

把以美元计的成交量（百万级）和月度收益（百分比）两个特征不经缩放直接交给 PCA。会发生什么？

7排列步骤10 分未作答

把 PCA 的步骤按正确顺序排列。

拖动以重新排序;也可聚焦某项,按空格抬起,用方向键移动,再按空格放下。

1把数据投影到前几个轴上
2对特征做中心化和标准化
3按特征值给轴排序并保留最大的几个
4求协方差矩阵的特征向量和特征值

8配对15 分未作答

把每个术语与其含义配对。

为左侧每一项选择配对项。

主成分

特征值

核函数

载荷

9用文字解释15 分未作答

$54$ 只股票的第一成分是市场，承载 $29.5\%$ 的方差。用一两句话解释：为什么这并不意味着它是预测收益最有用的成分。

评分依据:PCA 按方差给成分排序，这并不说明它们预测未来收益的能力市场走势对所有股票都是共同的，所以无法把一只股票排在另一只之上，有用的信号可能藏在较小的成分里0 / 400 字

数学模式键盘或 LaTeX 输入第 1/9 题 · Ctrl ⏎ 检查

用 PCA 与核 PCA 降维

路线进度模块 4/4 · 主题 2/4

4.2 用 PCA 与核 PCA 降维

—实验得分— / 100总 XP—连续天数—

更少的数却保留故事

\Sigma v_k=\lambda_k v_k,\qquad r_k=\frac{\lambda_k}{\sum_j\lambda_j},\qquad k(x,y)=e^{-\gamma\|x-y\|^{2}}

(1)

2×2 的例子与 54 只股票取协方差矩阵

\begin{pmatrix}2&1\\1&2\end{pmatrix}

，它的特征值为

3

和

1

，所以第一成分承载

3/(3+1)=75\%

的方差，第二成分承载

25\%

。第一轴是

(1,1)/\sqrt2

。点

(1,1)

在其上的投影为

(1+1)/\sqrt2=1.414

，而点

(1,-1)

投影为

0

，被单成分模型丢失，平方误差为

2

。对

\gamma=0.5

、距离平方为

2

的 RBF 核，相似度为

e^{-1}=0.368

。在

54

只真实股票的

319

个月度收益上，第一成分承载

29.5\%

的方差，第二成分

8.4\%

，第三成分

5.5\%

；达到

80\%

需要

22

个成分，达到

90\%

需要

32

个，所以在

80\%

的水平上，简短描述省去了

54

个数中的

32

个。

按方差排序的轴：第一成分是离散最大的方向，之后的每个都与前面垂直。
先标准化：PCA 追随方差，数值大的特征会占主导。
方差不等于预测：最大的成分不一定是有用的。

实验：评分内容

第一成分的占比15 分
投影10 分
重构误差10 分
RBF 核的值10 分
节省的数5 分
为什么在 PCA 之前要标准化10 分
PCA 的步骤10 分
配对术语15 分
大成分不等于有用成分15 分

0/ 已答 9 题

1数值作答15 分未作答

某协方差矩阵的特征值为 $3$ 和 $1$ 。第一成分承载多大比例的方差？以小数形式保留两位。

r =

允许误差:± 0.005

2数值作答10 分未作答

第一轴是 $(1,1)/\sqrt2$ 。点 $(1,1)$ 在其上的坐标 $(1+1)/\sqrt2$ 是多少？保留三位小数。

p =

允许误差:± 0.003

3数值作答10 分未作答

点 $(1,-1)$ 在第一轴上投影为 $0$ ，所以单成分模型把它重构为 $(0,0)$ 。重构的平方误差是多少？

e =

允许误差:± 0.01

4数值作答10 分未作答

RBF 核为 $e^{-\gamma d^{2}}$ 。当 $\gamma=0.5$ 、距离平方 $d^{2}=2$ 时，相似度是多少？保留三位小数。

k =

允许误差:± 0.002

5数值作答5 分未作答

对 $54$ 只真实股票， $22$ 个成分承载 $80\%$ 的方差。只保留这 $22$ 个，可以节省 $54$ 个数中的多少个？

s =

允许误差:± 0.01

6选择10 分未作答

把以美元计的成交量（百万级）和月度收益（百分比）两个特征不经缩放直接交给 PCA。会发生什么？

7排列步骤10 分未作答

把 PCA 的步骤按正确顺序排列。

拖动以重新排序;也可聚焦某项,按空格抬起,用方向键移动,再按空格放下。

1把数据投影到前几个轴上
2对特征做中心化和标准化
3按特征值给轴排序并保留最大的几个
4求协方差矩阵的特征向量和特征值

8配对15 分未作答

把每个术语与其含义配对。

为左侧每一项选择配对项。

主成分

特征值

核函数

载荷

9用文字解释15 分未作答

$54$ 只股票的第一成分是市场，承载 $29.5\%$ 的方差。用一两句话解释：为什么这并不意味着它是预测收益最有用的成分。

数学模式键盘或 LaTeX 输入第 1/9 题 · Ctrl ⏎ 检查

用 PCA 与核 PCA 降维

更少的数却保留故事

实验：评分内容

登录后即可运行你的代码。

用 PCA 与核 PCA 降维

更少的数却保留故事

实验：评分内容

登录后即可运行你的代码。