Plusieurs sorties, plusieurs entrées
Une fonction F peut associer plusieurs entrées à plusieurs sorties, par exemple des facteurs de risque aux valeurs de plusieurs positions. Sa jacobienne J est la matrice de toutes les dérivées partielles du premier ordre, d'entrée Jij=∂xj∂Fi. C'est la meilleure approximation linéaire : pour un petit déplacement Δ, F(x+Δ)≈F(x)+JΔ.
J=(∂x∂F1∂x∂F2∂y∂F1∂y∂F2)(1) Pour une seule sortie f, les dérivées secondes forment la hessienne H, d'entrée Hij=∂xi∂xj∂2f. Pour des fonctions lisses, elle est symétrique. Elle décrit la courbure : f(x+Δ)≈f+∇f⋅Δ+21ΔTHΔ. Là où ∇f=0, une H définie positive indique un minimum local, une H définie négative un maximum local, et une H mixte un point selle. La méthode de Newton pour l'optimisation utilise H pour faire de meilleurs pas que la simple descente de gradient.
Une jacobienne et une hessienne à la mainPour
F(x,y)=(x2y, x+y2) :
J=(2xy1x22y), donc en
(1,2) elle vaut
(4114), de déterminant 15 : les petites aires sont multipliées par environ 15. Pour
f(x,y)=x2y+y2 :
fxx=2y,
fxy=2x,
fyy=2, donc en
(1,2) la hessienne vaut
(4222).
- Jacobienne : la matrice des dérivées partielles premières d'une fonction vectorielle ; son meilleur modèle linéaire.
- Hessienne : la matrice symétrique des dérivées partielles secondes d'une fonction scalaire ; sa courbure.
- Hessienne définie positive en un point critique : un minimum local.
N'estimez pas une hessienne par différences finies si vous pouvez l'éviterLes différences secondes divisent de minuscules différences par h2, ce qui amplifie le bruit d'arrondi. Préférez des formules ou la différentiation automatique, et si vous devez utiliser des différences, vérifiez que le résultat est symétrique. Lab : ce qui est noté
- La jacobienne en un point20 pts
- La hessienne en un point20 pts
- Le déterminant de la jacobienne15 pts
- Lire une hessienne15 pts
- L'approximation linéaire15 pts
- Ce que décrit chaque matrice15 pts