Dimensionsreduktion mit PCA und Kernel-PCA

Position in der SkillModul 4 von 4 · Thema 2 von 4

4.2 Dimensionsreduktion mit PCA und Kernel-PCA

—Lab-Punkte— / 100XP gesamt—Serie—

Weniger Zahlen, die die Geschichte behalten

Aktien bewegen sich gemeinsam, daher enthalten 54 monatliche Renditereihen viel weniger als 54 unabhängige Informationen. Die Hauptkomponentenanalyse, PCA, findet neue Achsen, die Hauptkomponenten, geordnet nach dem Anteil der Varianz, den sie tragen. Die erste Achse zeigt in Richtung der größten Streuung, die zweite steht senkrecht darauf und trägt das Nächstgrößte, und so weiter. In Bezug auf die Kovarianzmatrix sind die Achsen ihre Eigenvektoren und die Varianzen entlang davon ihre Eigenwerte. Der Varianzanteil der Komponente $k$ ist $\lambda_k/\sum_j\lambda_j$ . Behält man die ersten Komponenten, erhält man eine kurze Beschreibung der Daten mit kleinem Verlust.

\Sigma v_k=\lambda_k v_k,\qquad r_k=\frac{\lambda_k}{\sum_j\lambda_j},\qquad k(x,y)=e^{-\gamma\|x-y\|^{2}}

(1)

Die PCA arbeitet mit zentrierten Daten und Merkmalen vergleichbarer Skalen, also zuerst standardisieren. Ihre Achsen sind linear, was zum Markt passt, weil die meisten Aktien eine gemeinsame Bewegung teilen. Kernel-PCA führt die PCA in einem von einem Kern wie dem RBF-Kern $e^{-\gamma d^{2}}$ aufgespannten Raum durch, der bewertet, wie nah zwei Punkte sind, und kann so gekrümmte Strukturen verfolgen. Zwei Warnungen gelten. Eine Komponente mischt alle Eingaben, sie zu benennen ist Raten. Und die führenden Komponenten sind die größten Varianzquellen, nicht die vorhersagekräftigsten. Im Finanzbereich ist die erste Komponente der Markt, die nächsten sind Sektoren, und ein auf Komponenten angepasstes Modell muss weiterhin an späteren Daten geprüft werden.

Ein 2-mal-2-Beispiel und 54 AktienNehmen wir die Kovarianzmatrix

\begin{pmatrix}2&1\\1&2\end{pmatrix}

. Ihre Eigenwerte sind

3

und

1

, die erste Komponente trägt also

3/(3+1)=75\%

der Varianz und die zweite

25\%

. Die erste Achse ist

(1,1)/\sqrt2

. Der Punkt

(1,1)

projiziert darauf bei

(1+1)/\sqrt2=1{,}414

, während

(1,-1)

bei

0

projiziert und von einem Ein-Komponenten-Modell verloren wird, mit einem quadratischen Fehler von

2

. Für den RBF-Kern mit

\gamma=0{,}5

und dem quadrierten Abstand

2

beträgt die Ähnlichkeit

e^{-1}=0{,}368

. Bei den

319

Monatsrenditen der

54

echten Aktien trägt die erste Komponente

29{,}5\%

der Varianz, die zweite

8{,}4\%

und die dritte

5{,}5\%

. Es braucht

22

Komponenten für

80\%

und

32

für

90\%

, eine kurze Beschreibung spart also bei

80\%

32

der

54

Zahlen.

Achsen nach Varianz: Die erste Komponente ist die Richtung größter Streuung, jede weitere steht senkrecht.
Zuerst standardisieren: Die PCA folgt der Varianz, ein Merkmal mit großen Zahlen würde dominieren.
Varianz ist keine Vorhersage: Die größten Komponenten sind nicht unbedingt die nützlichen.

Lab: Was bewertet wird

Der Anteil der ersten Komponente15 Pkt.
Eine Projektion10 Pkt.
Ein Rekonstruktionsfehler10 Pkt.
Ein RBF-Kernwert10 Pkt.
Gesparte Zahlen5 Pkt.
Warum vor der PCA standardisieren10 Pkt.
Die Schritte der PCA10 Pkt.
Begriffe zuordnen15 Pkt.
Eine große Komponente ist keine nützliche15 Pkt.

0/ 9 beantwortet

1Numerische Antwort15 Pkt.Nicht beantwortet

Eine Kovarianzmatrix hat die Eigenwerte $3$ und $1$ . Welchen Anteil der Varianz trägt die erste Komponente? Geben Sie zwei Dezimalstellen als Bruch an.

r =

akzeptiert: ± 0.005

2Numerische Antwort10 Pkt.Nicht beantwortet

Die erste Achse ist $(1,1)/\sqrt2$ . Wie lautet die Koordinate des Punkts $(1,1)$ darauf, $(1+1)/\sqrt2$ ? Geben Sie drei Dezimalstellen an.

p =

akzeptiert: ± 0.003

3Numerische Antwort10 Pkt.Nicht beantwortet

Der Punkt $(1,-1)$ projiziert auf der ersten Achse bei $0$ , ein Ein-Komponenten-Modell rekonstruiert ihn also als $(0,0)$ . Wie groß ist der quadratische Rekonstruktionsfehler?

e =

akzeptiert: ± 0.01

4Numerische Antwort10 Pkt.Nicht beantwortet

Der RBF-Kern ist $e^{-\gamma d^{2}}$ . Wie groß ist die Ähnlichkeit bei $\gamma=0{,}5$ und dem quadrierten Abstand $d^{2}=2$ ? Geben Sie drei Dezimalstellen an.

k =

akzeptiert: ± 0.002

5Numerische Antwort5 Pkt.Nicht beantwortet

Bei den $54$ echten Aktien tragen $22$ Komponenten $80\%$ der Varianz. Wie viele der $54$ Zahlen spart man, wenn man nur diese $22$ behält?

s =

akzeptiert: ± 0.01

6Auswahl10 Pkt.Nicht beantwortet

Ein Merkmal in Dollar-Volumen (Millionen) und eines in Monatsrendite (Prozent) gehen ohne Skalierung in die PCA. Was passiert?

7Schritte ordnen10 Pkt.Nicht beantwortet

Bringen Sie die Schritte der PCA in die richtige Reihenfolge.

Zum Umsortieren ziehen, oder ein Element fokussieren, mit Leertaste anheben, mit Pfeiltasten bewegen und mit Leertaste ablegen.

1Die Daten auf die ersten Achsen projizieren
2Die Merkmale zentrieren und standardisieren
3Die Achsen nach Eigenwert sortieren und die größten behalten
4Eigenvektoren und Eigenwerte der Kovarianzmatrix finden

8Zuordnen15 Pkt.Nicht beantwortet

Ordnen Sie jedem Begriff seine Bedeutung zu.

Wähle den Partner für jedes Element links.

Hauptkomponente

Eigenwert

Kern

Ladung

9In Worten erklären15 Pkt.Nicht beantwortet

Die erste Komponente der $54$ Aktien ist der Markt und trägt $29{,}5\%$ der Varianz. Erklären Sie in ein bis zwei Sätzen, warum daraus nicht folgt, dass sie die nützlichste Komponente zur Renditevorhersage ist.

Bewertet nach:Die PCA ordnet Komponenten nach Varianz, was nichts darüber sagt, wie gut sie künftige Renditen vorhersagenDie Marktbewegung ist allen Aktien gemeinsam, kann also keine über eine andere ordnen, und das nützliche Signal kann in einer kleinen Komponente stecken0 / 400 Zeichen

Mathe-ModusEingabe per Tastatur oder LaTeXAufgabe 1 von 9 · Strg ⏎ zum Prüfen

Dimensionsreduktion mit PCA und Kernel-PCA

Position in der SkillModul 4 von 4 · Thema 2 von 4

4.2 Dimensionsreduktion mit PCA und Kernel-PCA

—Lab-Punkte— / 100XP gesamt—Serie—

Weniger Zahlen, die die Geschichte behalten

\Sigma v_k=\lambda_k v_k,\qquad r_k=\frac{\lambda_k}{\sum_j\lambda_j},\qquad k(x,y)=e^{-\gamma\|x-y\|^{2}}

(1)

Ein 2-mal-2-Beispiel und 54 AktienNehmen wir die Kovarianzmatrix

\begin{pmatrix}2&1\\1&2\end{pmatrix}

. Ihre Eigenwerte sind

3

und

1

, die erste Komponente trägt also

3/(3+1)=75\%

der Varianz und die zweite

25\%

. Die erste Achse ist

(1,1)/\sqrt2

. Der Punkt

(1,1)

projiziert darauf bei

(1+1)/\sqrt2=1{,}414

, während

(1,-1)

bei

0

projiziert und von einem Ein-Komponenten-Modell verloren wird, mit einem quadratischen Fehler von

2

. Für den RBF-Kern mit

\gamma=0{,}5

und dem quadrierten Abstand

2

beträgt die Ähnlichkeit

e^{-1}=0{,}368

. Bei den

319

Monatsrenditen der

54

echten Aktien trägt die erste Komponente

29{,}5\%

der Varianz, die zweite

8{,}4\%

und die dritte

5{,}5\%

. Es braucht

22

Komponenten für

80\%

und

32

für

90\%

, eine kurze Beschreibung spart also bei

80\%

32

der

54

Zahlen.

Achsen nach Varianz: Die erste Komponente ist die Richtung größter Streuung, jede weitere steht senkrecht.
Zuerst standardisieren: Die PCA folgt der Varianz, ein Merkmal mit großen Zahlen würde dominieren.
Varianz ist keine Vorhersage: Die größten Komponenten sind nicht unbedingt die nützlichen.

Lab: Was bewertet wird

Der Anteil der ersten Komponente15 Pkt.
Eine Projektion10 Pkt.
Ein Rekonstruktionsfehler10 Pkt.
Ein RBF-Kernwert10 Pkt.
Gesparte Zahlen5 Pkt.
Warum vor der PCA standardisieren10 Pkt.
Die Schritte der PCA10 Pkt.
Begriffe zuordnen15 Pkt.
Eine große Komponente ist keine nützliche15 Pkt.

0/ 9 beantwortet

1Numerische Antwort15 Pkt.Nicht beantwortet

Eine Kovarianzmatrix hat die Eigenwerte $3$ und $1$ . Welchen Anteil der Varianz trägt die erste Komponente? Geben Sie zwei Dezimalstellen als Bruch an.

r =

akzeptiert: ± 0.005

2Numerische Antwort10 Pkt.Nicht beantwortet

Die erste Achse ist $(1,1)/\sqrt2$ . Wie lautet die Koordinate des Punkts $(1,1)$ darauf, $(1+1)/\sqrt2$ ? Geben Sie drei Dezimalstellen an.

p =

akzeptiert: ± 0.003

3Numerische Antwort10 Pkt.Nicht beantwortet

Der Punkt $(1,-1)$ projiziert auf der ersten Achse bei $0$ , ein Ein-Komponenten-Modell rekonstruiert ihn also als $(0,0)$ . Wie groß ist der quadratische Rekonstruktionsfehler?

e =

akzeptiert: ± 0.01

4Numerische Antwort10 Pkt.Nicht beantwortet

Der RBF-Kern ist $e^{-\gamma d^{2}}$ . Wie groß ist die Ähnlichkeit bei $\gamma=0{,}5$ und dem quadrierten Abstand $d^{2}=2$ ? Geben Sie drei Dezimalstellen an.

k =

akzeptiert: ± 0.002

5Numerische Antwort5 Pkt.Nicht beantwortet

Bei den $54$ echten Aktien tragen $22$ Komponenten $80\%$ der Varianz. Wie viele der $54$ Zahlen spart man, wenn man nur diese $22$ behält?

s =

akzeptiert: ± 0.01

6Auswahl10 Pkt.Nicht beantwortet

Ein Merkmal in Dollar-Volumen (Millionen) und eines in Monatsrendite (Prozent) gehen ohne Skalierung in die PCA. Was passiert?

7Schritte ordnen10 Pkt.Nicht beantwortet

Bringen Sie die Schritte der PCA in die richtige Reihenfolge.

Zum Umsortieren ziehen, oder ein Element fokussieren, mit Leertaste anheben, mit Pfeiltasten bewegen und mit Leertaste ablegen.

1Die Daten auf die ersten Achsen projizieren
2Die Merkmale zentrieren und standardisieren
3Die Achsen nach Eigenwert sortieren und die größten behalten
4Eigenvektoren und Eigenwerte der Kovarianzmatrix finden

8Zuordnen15 Pkt.Nicht beantwortet

Ordnen Sie jedem Begriff seine Bedeutung zu.

Wähle den Partner für jedes Element links.

Hauptkomponente

Eigenwert

Kern

Ladung

9In Worten erklären15 Pkt.Nicht beantwortet

Mathe-ModusEingabe per Tastatur oder LaTeXAufgabe 1 von 9 · Strg ⏎ zum Prüfen

Dimensionsreduktion mit PCA und Kernel-PCA

Weniger Zahlen, die die Geschichte behalten

Lab: Was bewertet wird

Melde dich an, um deinen Code auszuführen.

Dimensionsreduktion mit PCA und Kernel-PCA

Weniger Zahlen, die die Geschichte behalten

Lab: Was bewertet wird

Melde dich an, um deinen Code auszuführen.