Reducción de dimensión con PCA y PCA con núcleo

Menos números que conservan la historia

Las acciones se mueven juntas, así que 54 series mensuales de rendimientos contienen mucho menos que 54 informaciones independientes. El análisis de componentes principales, PCA, halla ejes nuevos, las componentes principales, ordenados por la parte de la varianza que llevan. El primer eje apunta en la dirección de mayor dispersión, el segundo es perpendicular y lleva lo siguiente más grande, y así sucesivamente. En términos de la matriz de covarianza, los ejes son sus vectores propios y las varianzas a lo largo de ellos sus valores propios. La proporción de varianza de la componente $k$ es $\lambda_k/\sum_j\lambda_j$ . Conservar las primeras componentes da una descripción corta de los datos con una pérdida pequeña.

\Sigma v_k=\lambda_k v_k,\qquad r_k=\frac{\lambda_k}{\sum_j\lambda_j},\qquad k(x,y)=e^{-\gamma\|x-y\|^{2}}

(1)

El PCA trabaja con datos centrados y con variables de escalas comparables, así que estandarice primero. Sus ejes son lineales, lo que va bien al mercado porque la mayoría de las acciones comparten un movimiento común. El PCA con núcleo hace PCA en un espacio construido por un núcleo como el RBF $e^{-\gamma d^{2}}$ , que puntúa cuán cerca están dos puntos, así que puede seguir estructuras curvas. Valen dos advertencias. Una componente mezcla todas las entradas, así que nombrarla es adivinar. Y las primeras componentes son las mayores fuentes de varianza, no las más predictivas. En finanzas la primera componente es el mercado, las siguientes son sectores, y un modelo ajustado con componentes debe comprobarse con datos posteriores.

Un ejemplo de 2 por 2 y 54 accionesTomemos la matriz de covarianza

\begin{pmatrix}2&1\\1&2\end{pmatrix}

. Sus valores propios son

3

1

, así que la primera componente lleva

3/(3+1)=75\%

de la varianza y la segunda

25\%

. El primer eje es

(1,1)/\sqrt2

. El punto

(1,1)

se proyecta en

(1+1)/\sqrt2=1{,}414

, mientras que

(1,-1)

se proyecta en

0

y un modelo de una componente lo pierde, con un error al cuadrado de

2

. Para el núcleo RBF con

\gamma=0{,}5

y distancia al cuadrado

2

, la similitud es

e^{-1}=0{,}368

. En los

319

rendimientos mensuales de las

54

acciones reales, la primera componente lleva el

29{,}5\%

de la varianza, la segunda el

8{,}4\%

y la tercera el

5{,}5\%

. Hacen falta

22

componentes para llegar al

80\%

32

para el

90\%

, así que una descripción corta ahorra

32

de los

54

números en el nivel del

80\%

Ejes por varianza: la primera componente es la dirección de mayor dispersión, cada siguiente es perpendicular.
Estandarice primero: el PCA sigue la varianza, así que una variable de números grandes dominaría.
La varianza no es predicción: las componentes mayores no son necesariamente las útiles.

Lab: qué se califica

La proporción de la primera componente15 pts
Una proyección10 pts
Un error de reconstrucción10 pts
Un valor de núcleo RBF10 pts
Números ahorrados5 pts
Por qué estandarizar antes del PCA10 pts
Los pasos del PCA10 pts
Emparejar el vocabulario15 pts
Una componente grande no es una útil15 pts

Menos números que conservan la historia

\Sigma v_k=\lambda_k v_k,\qquad r_k=\frac{\lambda_k}{\sum_j\lambda_j},\qquad k(x,y)=e^{-\gamma\|x-y\|^{2}}

(1)

Un ejemplo de 2 por 2 y 54 accionesTomemos la matriz de covarianza

\begin{pmatrix}2&1\\1&2\end{pmatrix}

. Sus valores propios son

3

1

, así que la primera componente lleva

3/(3+1)=75\%

de la varianza y la segunda

25\%

. El primer eje es

(1,1)/\sqrt2

. El punto

(1,1)

se proyecta en

(1+1)/\sqrt2=1{,}414

, mientras que

(1,-1)

se proyecta en

0

y un modelo de una componente lo pierde, con un error al cuadrado de

2

. Para el núcleo RBF con

\gamma=0{,}5

y distancia al cuadrado

2

, la similitud es

e^{-1}=0{,}368

. En los

319

rendimientos mensuales de las

54

acciones reales, la primera componente lleva el

29{,}5\%

de la varianza, la segunda el

8{,}4\%

y la tercera el

5{,}5\%

. Hacen falta

22

componentes para llegar al

80\%

32

para el

90\%

, así que una descripción corta ahorra

32

de los

54

números en el nivel del

80\%

Ejes por varianza: la primera componente es la dirección de mayor dispersión, cada siguiente es perpendicular.
Estandarice primero: el PCA sigue la varianza, así que una variable de números grandes dominaría.
La varianza no es predicción: las componentes mayores no son necesariamente las útiles.

Lab: qué se califica

La proporción de la primera componente15 pts
Una proyección10 pts
Un error de reconstrucción10 pts
Un valor de núcleo RBF10 pts
Números ahorrados5 pts
Por qué estandarizar antes del PCA10 pts
Los pasos del PCA10 pts
Emparejar el vocabulario15 pts
Una componente grande no es una útil15 pts

Reducción de dimensión con PCA y PCA con núcleo

Menos números que conservan la historia

Lab: qué se califica

Inicia sesión para ejecutar tu código.

Reducción de dimensión con PCA y PCA con núcleo

Menos números que conservan la historia

Lab: qué se califica

Inicia sesión para ejecutar tu código.