约束优化与 KKT 条件

在规则约束下优化

真实的投资组合要遵守规则：权重之和为一、不能卖空、换手率有上限。约束问题是在等式 $h(\mathbf w)=0$ 与不等式 $g(\mathbf w)\le0$ 下求 $\min f(\mathbf w)$。只有一个等式时，最佳可行点出现在 $\nabla f$ 笔直穿过约束曲面之处，因为任何侧向分量都能在不离开曲面的情况下改进 $f$。这就是拉格朗日条件 $\nabla f+\lambda\nabla h=0$，数 $\lambda$ 称为拉格朗日乘子。把一切汇总到拉格朗日函数 $L=f+\lambda h+\mu g$ 中，约束问题就变成寻找 $L$ 的驻点。

对不等式，完整的条件组以 Karush、Kuhn、Tucker 命名，含四部分：拉格朗日函数的驻点条件、原始可行性（约束成立）、对偶可行性（$\mu\ge0$）和互补松弛（$\mu g=0$）。互补松弛说明每个不等式要么不起作用（$g<0$ 且 $\mu=0$，无关紧要），要么起作用（$g=0$ 且 $\mu>0$，等同于等式）。对凸问题，这些条件是全局最优的充要条件。乘子也是一种价格：约束放松一个单位时，$f$ 的最优值改善的速率。

最小方差组合是典型例子：在 $\mathbf 1^{T}\mathbf w=1$ 下最小化 $\mathbf w^{T}\Sigma\mathbf w$。拉格朗日条件 $2\Sigma\mathbf w+\lambda\mathbf 1=0$ 给出 $\mathbf w\propto\Sigma^{-1}\mathbf 1$。对方差为 $0.04$ 和 $0.09$ 的两个不相关资产，权重正比于 $1/0.04=25$ 与 $1/0.09=11.1$，故 $w_1=0.692$、$w_2=0.308$，组合方差为 $1/(25+11.1)=0.0277$。乘子等于该最小方差的 $-2$ 倍。在真实组合中，只做多规则或换手率上限各有自己的乘子，$\mu$ 很大说明这条规则代价高昂。

• 等式约束：$\nabla f+\lambda\nabla h=0$ 并满足 $h=0$。
• 不等式：$\mu\ge0$ 且 $\mu g=0$；起作用即 $g=0$，不起作用即 $\mu=0$。
• 价格：乘子是最优值对其约束放松的敏感度。

实验：评分内容

• 乘子10 分
• 最优点10 分
• 放松约束10 分
• 两资产最小方差权重15 分
• 最小方差15 分
• 四个 KKT 条件15 分
• 起作用的约束10 分
• 乘子告诉你什么15 分