Kleinste Quadrate und Kurvenanpassung

Eine Kurve anpassen, indem man die Fehler verkleinert

Viele Modelle sind Kurven mit wenigen Parametern, und Anpassen heißt, die Parameter zu wählen, bei denen die Kurve nah an den Daten liegt. scipy.optimize.least_squares(fun, x0) tut das. Sie schreiben fun(p), das den Vektor der Residuen liefert, eines je Datenpunkt, wobei ein Residuum der Modellwert minus der Datenwert ist. Die Funktion minimiert dann die Kosten $\tfrac12\sum r_i^2$. Sie startet bei Ihrer Vermutung x0 und geht Schritte mit der Jacobi-Matrix $J$, der Tabelle, wie sich jedes Residuum ändert, wenn sich jeder Parameter ändert. Ein Gauss-Newton-Schritt löst $J^{\top}J\,\delta=-J^{\top}r$ und verschiebt die Parameter um $\delta$. Bei einem in den Parametern linearen Modell trifft ein einziger Schritt die Lösung. bounds=(unten, oben) hält Parameter in einem sinnvollen Bereich. curve_fit ist eine freundlichere Hülle, die das Modell $f(x,\text{Parameter})$ direkt nimmt.

Quadrierte Fehler lassen einen wilden Punkt dominieren: Ein Residuum von $10$ zählt $100$. Ein robuster Verlust wächst bei großen Residuen langsamer. Mit loss='soft_l1' und f_scale=1 ist die Strafe $\rho(z)=2(\sqrt{1+z}-1)$, wobei $z$ das quadrierte Residuum ist. Die Anpassung von Zinskurven ist der klassische Einsatz. Die Nelson-Siegel-Kurve ist $y(\tau)=\beta_0+\beta_1\frac{1-e^{-\tau/\lambda}}{\tau/\lambda}+\beta_2\Big(\frac{1-e^{-\tau/\lambda}}{\tau/\lambda}-e^{-\tau/\lambda}\Big)$. Sie hat ein langfristiges Niveau $\beta_0$, eine Steigung $\beta_1$, einen Buckel $\beta_2$ und eine Abklinglänge $\lambda$ in Jahren, und vier Zahlen beschreiben die ganze Kurve. Nach der Anpassung wird das Rauschniveau durch $s=\sqrt{\mathrm{SSE}/(n-p)}$ geschätzt, mit $n$ Punkten und $p$ Parametern.

• Residuen hinein, Parameter heraus: fun(p) liefert Modell minus Daten, und least_squares verkleinert die Quadratsumme.
• Robuster Verlust für Ausreißer: soft_l1 verhindert, dass ein wilder Punkt die ganze Kurve mitzieht.
• Vier Zahlen für eine Kurve: Nelson-Siegel fasst eine Zinskurve durch Niveau, Steigung, Buckel und Abklinglänge zusammen.

Lab: Was bewertet wird

• Eine Steigung durch den Ursprung10 Pkt.
• Ein Gauss-Newton-Schritt15 Pkt.
• Eine robuste Strafe15 Pkt.
• Das Rauschniveau nach einer Anpassung10 Pkt.
• Die Argumente von least_squares10 Pkt.
• Ein Kurvenanpassungs-Ablauf10 Pkt.
• Warum ein robuster Verlust30 Pkt.