Decomposição em valores singulares

Toda matriz é uma rotação, um esticamento e uma rotação

A decomposição em autovalores exige uma matriz quadrada e mesmo assim pode falhar. A decomposição em valores singulares funciona para toda matriz, retangular ou não: $A=U\Sigma V^{T}$ com $U$ e $V$ ortogonais e $\Sigma$ diagonal com entradas não negativas $\sigma_1\ge\sigma_2\ge\cdots\ge0$, os valores singulares. Geometricamente, $A$ primeiro gira com $V^{T}$, depois estica cada eixo $i$ por $\sigma_i$ e então gira com $U$. Um círculo unitário vira uma elipse cujos semieixos são os valores singulares.

As colunas de $V$ são os autovetores de $A^{T}A$ e as de $U$ os de $AA^{T}$, com autovalores $\sigma_i^2$. Assim, a SVD é o teorema espectral aplicado a $A^{T}A$, mas calculada sem nunca formar esse produto, que elevaria ao quadrado o número de condição e perderia metade dos dígitos. Ler os fatos é fácil: o posto é o número de valores singulares não nulos, $\lVert A\rVert_2=\sigma_1$ é o maior esticamento, a norma de Frobenius ao quadrado é a soma dos quadrados dos valores singulares, $|\det A|=\prod\sigma_i$ para uma matriz quadrada, e o número de condição $\sigma_1/\sigma_{\min}$ mede quanto $A$ pode amplificar erros. Para uma matriz de dados $m\times n$ com $m\ge n$, a $U$ completa é $m\times m$, $\Sigma$ é $m\times n$ e $V$ é $n\times n$.

• SVD: toda matriz é $U\Sigma V^{T}$ com $U$, $V$ ortogonais e valores singulares não negativos ordenados.
• Fatos: o posto é o número de $\sigma_i$ não nulos, $\lVert A\rVert_F^2=\sum\sigma_i^2$, $|\det A|=\prod\sigma_i$.
• Número de condição: $\sigma_1/\sigma_{\min}$; um valor grande significa resoluções instáveis e inversas pouco confiáveis.

Lab: o que é avaliado

• O maior valor singular20 pts
• A identidade de Frobenius10 pts
• O produto dos valores singulares10 pts
• Dimensões de uma SVD completa15 pts
• Valores singulares e autovalores15 pts
• Um número de condição15 pts
• Por que não decompor AᵀA15 pts