雅可比矩阵与黑塞矩阵

多个输出，多个输入

函数 $F$ 可以把多个输入映射到多个输出，例如把风险因子映射到多个头寸的价值。它的雅可比矩阵 $J$ 是所有一阶偏导数构成的矩阵，元素为 $J_{ij}=\frac{\partial F_i}{\partial x_j}$ 。它是最佳线性近似：对于小幅移动 $\Delta$ ， $F(\mathbf{x}+\Delta)\approx F(\mathbf{x})+J\Delta$ 。

J=\begin{pmatrix}\frac{\partial F_1}{\partial x} & \frac{\partial F_1}{\partial y}\\[2pt] \frac{\partial F_2}{\partial x} & \frac{\partial F_2}{\partial y}\end{pmatrix}

(1)

对于单个输出 $f$ ，二阶导数构成黑塞矩阵 $H$ ，元素为 $H_{ij}=\frac{\partial^2 f}{\partial x_i\partial x_j}$ 。对光滑函数它是对称的。它描述曲率： $f(\mathbf{x}+\Delta)\approx f+\nabla f\cdot\Delta+\tfrac{1}{2}\Delta^{T}H\Delta$ 。在 $\nabla f=0$ 处， $H$ 正定表示局部极小，负定表示局部极大，不定表示鞍点。优化中的牛顿法利用 $H$ 迈出比普通梯度下降更好的步子。

手算雅可比与黑塞矩阵对

F(x,y)=(x^2y,\ x+y^2)

：

J=\begin{pmatrix}2xy & x^2\\ 1 & 2y\end{pmatrix}

，在

(1,2)

处为

\begin{pmatrix}4&1\\1&4\end{pmatrix}

，行列式为 15：小面积被放大约 15 倍。对

f(x,y)=x^2y+y^2

：

f_{xx}=2y

，

f_{xy}=2x

，

f_{yy}=2

，所以在

(1,2)

处黑塞矩阵为

\begin{pmatrix}4&2\\2&2\end{pmatrix}

。

雅可比矩阵：向量函数一阶偏导数的矩阵；其最佳线性模型。
黑塞矩阵：标量函数二阶偏导数的对称矩阵；描述其曲率。
临界点处黑塞矩阵正定：局部极小。

能避免就不要用有限差分估计黑塞矩阵二阶差分要把极小的差值除以

h^2

，会放大舍入噪声。优先使用公式或自动微分；必须用差分时，要检查结果是否对称。

实验：评分内容

某点的雅可比矩阵20 分
某点的黑塞矩阵20 分
雅可比矩阵的行列式15 分
解读黑塞矩阵15 分
线性近似15 分
每个矩阵描述什么15 分

多个输出，多个输入

J=\begin{pmatrix}\frac{\partial F_1}{\partial x} & \frac{\partial F_1}{\partial y}\\[2pt] \frac{\partial F_2}{\partial x} & \frac{\partial F_2}{\partial y}\end{pmatrix}

(1)

手算雅可比与黑塞矩阵对

F(x,y)=(x^2y,\ x+y^2)

：

J=\begin{pmatrix}2xy & x^2\\ 1 & 2y\end{pmatrix}

，在

(1,2)

处为

\begin{pmatrix}4&1\\1&4\end{pmatrix}

，行列式为 15：小面积被放大约 15 倍。对

f(x,y)=x^2y+y^2

：

f_{xx}=2y

，

f_{xy}=2x

，

f_{yy}=2

，所以在

(1,2)

处黑塞矩阵为

\begin{pmatrix}4&2\\2&2\end{pmatrix}

。

雅可比矩阵：向量函数一阶偏导数的矩阵；其最佳线性模型。
黑塞矩阵：标量函数二阶偏导数的对称矩阵；描述其曲率。
临界点处黑塞矩阵正定：局部极小。

能避免就不要用有限差分估计黑塞矩阵二阶差分要把极小的差值除以

h^2

，会放大舍入噪声。优先使用公式或自动微分；必须用差分时，要检查结果是否对称。

实验：评分内容

某点的雅可比矩阵20 分
某点的黑塞矩阵20 分
雅可比矩阵的行列式15 分
解读黑塞矩阵15 分
线性近似15 分
每个矩阵描述什么15 分

多个输出，多个输入

实验：评分内容

登录后即可运行你的代码。

雅可比矩阵与黑塞矩阵

多个输出，多个输入

实验：评分内容

登录后即可运行你的代码。