凸性及其重要性

一个山谷，一个答案

若函数图像上任意两点之间的线段都在图像上或其上方，则该函数为凸函数：对每个 $\theta\in[0,1]$ 都有 $f(\theta\mathbf x+(1-\theta)\mathbf y)\le\theta f(\mathbf x)+(1-\theta)f(\mathbf y)$。对二阶可微函数有实用判别法：$f$ 为凸当且仅当其 Hessian 处处半正定，即所有特征值 $\ge0$。凸函数之和、正倍数以及若干凸函数的最大值仍是凸的，大型凸目标就是用小块这样搭起来的。

凸性让优化变得可靠。每个局部极小都是全局极小，梯度为零就可以停止，答案也不依赖求解器从哪里出发。若函数严格凸，极小点还是唯一的；若强凸（各方向曲率至少为 $\mu>0$），梯度下降会以前面见过的几何速率收敛。没有凸性，这些都得不到保证：求解器可能停在并非最深的山谷里。

在金融中，凸的目标包括组合方差 $\mathbf w^{T}\Sigma\mathbf w$（协方差矩阵半正定）、最小二乘损失、$\ell_1$ 范数 $\lVert\mathbf w\rVert_1$，以及作为权重函数的预期损失（CVaR）。风险价值（VaR）、非零权重个数的上限以及原样的夏普比率都不是凸的。用少于资产数的观测估计出的样本协方差矩阵是半正定但奇异的，所以方差是凸的而非严格凸，许多权重向量在最小值上并列。

• Hessian 判别：处处所有特征值 $\ge0$ 为凸，出现负特征值则非凸。
• 好处：局部极小即全局极小，起点无关紧要。
• 构件：凸函数的和、正倍数与最大值仍是凸的。

实验：评分内容

• 凸性间隙15 分
• 破坏凸性的特征值15 分
• 哪个 Hessian 对应凸函数15 分
• 金融中的凸目标15 分
• 零梯度10 分
• 凸性术语15 分
• 求解器为何偏爱凸问题15 分