Moindres carrés et ajustement de courbes

Ajuster une courbe en réduisant les erreurs

Beaucoup de modèles sont des courbes à quelques paramètres, et ajuster signifie choisir les paramètres qui rapprochent la courbe des données. scipy.optimize.least_squares(fun, x0) le fait. On écrit fun(p), qui renvoie le vecteur des résidus, un par donnée, où un résidu est la valeur du modèle moins la valeur observée. La fonction minimise alors le coût $\tfrac12\sum r_i^2$. Elle part de votre estimation x0 et avance grâce au jacobien $J$, le tableau qui dit comment chaque résidu change quand chaque paramètre change. Un pas de Gauss–Newton résout $J^{\top}J\,\delta=-J^{\top}r$, puis déplace les paramètres de $\delta$. Pour un modèle linéaire en ses paramètres, un seul pas tombe sur la réponse. bounds=(bas, haut) garde les paramètres dans une plage raisonnable. curve_fit est une enveloppe plus simple qui prend directement le modèle $f(x,\text{paramètres})$.

Les erreurs au carré laissent un point fou dominer : un résidu de $10$ compte pour $100$. Une perte robuste croît plus lentement pour les grands résidus. Avec loss='soft_l1' et f_scale=1, la pénalité est $\rho(z)=2(\sqrt{1+z}-1)$, où $z$ est le résidu au carré. L'ajustement des courbes de taux en est l'usage classique. La courbe de Nelson–Siegel est $y(\tau)=\beta_0+\beta_1\frac{1-e^{-\tau/\lambda}}{\tau/\lambda}+\beta_2\Big(\frac{1-e^{-\tau/\lambda}}{\tau/\lambda}-e^{-\tau/\lambda}\Big)$. Elle a un niveau de long terme $\beta_0$, une pente $\beta_1$, une bosse $\beta_2$ et une longueur de décroissance $\lambda$ en années, et quatre nombres décrivent toute la courbe. Après l'ajustement, le niveau de bruit est estimé par $s=\sqrt{\mathrm{SSE}/(n-p)}$, avec $n$ points et $p$ paramètres.

• Résidus en entrée, paramètres en sortie : fun(p) renvoie modèle moins données, et least_squares réduit la somme des carrés.
• Perte robuste pour les valeurs aberrantes : soft_l1 empêche un point fou d'entraîner toute la courbe.
• Quatre nombres pour une courbe : Nelson–Siegel résume une courbe de taux par un niveau, une pente, une bosse et une longueur de décroissance.

Lab : ce qui est noté

• Une pente par l'origine10 pts
• Un pas de Gauss–Newton15 pts
• Une pénalité robuste15 pts
• Le niveau de bruit après un ajustement10 pts
• Les arguments de least_squares10 pts
• Un flux d'ajustement de courbe10 pts
• Pourquoi une perte robuste30 pts