PCA do zero

Achar as direções de maior variância

A análise de componentes principais busca a direção em que uma nuvem de dados mais varia, depois a direção seguinte em ângulo reto com ela, e assim por diante. Para os retornos de $N$ ativos, essa nuvem vive em $N$ dimensões e é difícil de olhar, mas suas direções principais ordenam as fontes independentes de risco. A receita é curta: centrar cada coluna, formar a matriz de covariância, tomar seus autovetores, ordená-los por autovalor e projetar os dados nos primeiros.

Aqui $X_c$ é a matriz $T\times N$ de retornos centrados, as colunas de $Q$ são as direções principais (cargas) e as de $Z$ os escores, isto é, os dados nas novas coordenadas. Os escores são não correlacionados e a variância do $j$-ésimo é $\lambda_j$, de modo que os autovalores repartem exatamente a variância total $\operatorname{tr}\Sigma$. O sinal das direções é arbitrário: $\mathbf q$ e $-\mathbf q$ são a mesma reta. Há duas cautelas. Centrar importa, porque sem isso a primeira direção aponta em parte para a média. As unidades também: o PCA de uma matriz de covariância é dominado pelas variáveis mais voláteis, então, quando as variáveis têm escalas diferentes, padronizam-se primeiro, ou seja, trabalha-se com a matriz de correlação.

• Receita: centrar, covariância, decomposição própria, ordenar por autovalor e projetar nas primeiras direções.
• Escores: não correlacionados, de variância $\lambda_j$; a parte explicada é $\lambda_j/\sum\lambda_i$.
• Cautelas: os sinais são arbitrários; centrar os dados; padronizar se as unidades diferem (matriz de correlação).

Lab: o que é avaliado

• A receita do PCA15 pts
• O primeiro autovalor15 pts
• A parte explicada15 pts
• Um escore15 pts
• Quando padronizar15 pts
• Fatos sobre os escores10 pts
• Por que centrar os dados15 pts