Aproximação de posto baixo

Ficar com a parte da matriz que importa

A SVD escreve uma matriz como soma de camadas de posto um, $A=\sum_i\sigma_i\mathbf u_i\mathbf v_i^{T}$, da maior para a menor. Manter apenas as $k$ primeiras camadas dá $A_k=U_k\Sigma_kV_k^{T}$, uma matriz de posto $k$. O teorema de Eckart-Young diz que esse truncamento é a melhor aproximação de posto $k$ que existe, seja o erro medido pela norma de Frobenius ou pela norma espectral. Nenhuma escolha esperta de $k$ direções supera as $k$ primeiras direções singulares.

O erro são exatamente os valores singulares descartados, então a parte do tamanho ao quadrado mantida é $\sum_{i\le k}\sigma_i^2\big/\sum_i\sigma_i^2$, muitas vezes chamada variância explicada quando $A$ são dados centrados. Uma aproximação de posto $k$ de uma matriz $m\times n$ precisa de apenas $k(m+n+1)$ números em vez de $mn$, e por isso posto baixo também é compressão. Em finanças, as camadas com $\sigma_i$ pequeno são sobretudo ruído amostral, então truncá-las é limpar, e $k$ é escolhido por um limiar sobre a parte mantida ou por um salto nos valores singulares.

• Eckart-Young: truncar a SVD em $k$ termos é a melhor aproximação de posto $k$ nas duas normas.
• Erro: Frobenius $\sqrt{\sum_{i>k}\sigma_i^2}$, espectral $\sigma_{k+1}$.
• Armazenamento: $k(m+n+1)$ números em vez de $mn$.

Lab: o que é avaliado

• O erro de Frobenius15 pts
• A parte mantida15 pts
• Uma aproximação de posto um15 pts
• Armazenamento de uma matriz de posto baixo10 pts
• O teorema de Eckart-Young15 pts
• Comprimir uma matriz15 pts
• Por que o truncamento limpa15 pts