Le théorème spectral

Pourquoi les matrices symétriques sont les plus agréables

Une matrice générale peut avoir des valeurs propres complexes et des vecteurs propres non perpendiculaires. Une matrice réelle symétrique, $A=A^{T}$ , non. Le théorème spectral dit qu'une telle $A$ n'a que des valeurs propres réelles, que les vecteurs propres de valeurs propres distinctes sont orthogonaux, et qu'on peut choisir une base orthonormée de vecteurs propres. En les rangeant en colonnes de $Q$ , on obtient $A=Q\Lambda Q^{T}$ avec $Q^{T}Q=I$ et $\Lambda$ diagonale. Toute matrice de covariance est symétrique ; ce théorème est donc la raison pour laquelle l'ACP fonctionne.

A=A^{T}\;\Longrightarrow\;A=Q\Lambda Q^{T}=\sum_i\lambda_i\,\mathbf q_i\mathbf q_i^{T},\qquad A^{k}=Q\Lambda^{k}Q^{T},\qquad \mathbf w^{T}A\mathbf w\ge\lambda_{\min}\lVert\mathbf w\rVert^{2}

(1)

La forme en somme écrit $A$ comme un empilement de pièces simples de rang un, chacune étirant une direction orthogonale. Elle rend les puissances triviales : $A^{k}=Q\Lambda^{k}Q^{T}$ , et toute fonction de $A$ agit simplement sur les valeurs propres. Une matrice symétrique est semi-définie positive, $\mathbf w^{T}A\mathbf w\ge0$ pour tout $\mathbf w$ , exactement quand toutes ses valeurs propres sont positives ou nulles, et définie positive quand elles sont toutes strictement positives. Pour une matrice de covariance $\Sigma$ , la forme quadratique $\mathbf w^{T}\Sigma\mathbf w$ est la variance du portefeuille de poids $\mathbf w$ ; elle ne peut donc jamais être négative et vaut au moins $\lambda_{\min}$ fois le carré de la longueur de $\mathbf w$ .

Diagonaliser une matrice 2 sur 2Prenons

A=\begin{pmatrix}2&1\\1&2\end{pmatrix}

. Ses valeurs propres sont 3 et 1, de vecteurs propres

(1,1)

(1,-1)

, dont le produit scalaire vaut

1-1=0

: ils sont orthogonaux. Normalisés, ils forment les colonnes de

Q=\frac1{\sqrt2}\begin{pmatrix}1&1\\1&-1\end{pmatrix}

, et la première composante de chacun est

1/\sqrt2\approx0{,}707

. Alors

A^{3}=Q\,\mathrm{diag}(27,1)\,Q^{T}=\frac12\begin{pmatrix}28&26\\26&28\end{pmatrix}=\begin{pmatrix}14&13\\13&14\end{pmatrix}

, obtenu sans multiplier trois fois

A

. Les deux valeurs propres sont positives :

A

est définie positive et pourrait être une matrice de covariance.

Théorème spectral : une matrice réelle symétrique $A$ a des valeurs propres réelles et des vecteurs propres orthonormés, $A=Q\Lambda Q^{T}$ .
Signe : semi-définie positive signifie toutes les valeurs propres $\ge0$ , définie positive toutes $>0$ .
Puissances et fonctions : $A^{k}=Q\Lambda^{k}Q^{T}$ ; on applique toute fonction aux seules valeurs propres.

Une matrice de covariance doit passer ce testUne matrice assemblée à la main, ou à partir d'estimations par paires sur des échantillons différents, peut être symétrique et avoir pourtant une valeur propre négative. Elle affirme alors qu'un portefeuille a une variance négative, et un optimiseur l'exploitera volontiers. Vérifier que la plus petite valeur propre d'une matrice symétrique est positive ou nulle (avec une petite tolérance pour les arrondis) est le test standard, et écrêter les valeurs propres négatives est la réparation standard.

Lab : ce qui est noté

Faits sur les matrices symétriques15 pts
La plus grande valeur propre15 pts
Un vecteur propre unitaire10 pts
Une puissance par la décomposition propre20 pts
Une matrice de covariance valide15 pts
Un plancher pour la variance d'un portefeuille15 pts
Pourquoi l'ACP fonctionne10 pts

Pourquoi les matrices symétriques sont les plus agréables

A=A^{T}\;\Longrightarrow\;A=Q\Lambda Q^{T}=\sum_i\lambda_i\,\mathbf q_i\mathbf q_i^{T},\qquad A^{k}=Q\Lambda^{k}Q^{T},\qquad \mathbf w^{T}A\mathbf w\ge\lambda_{\min}\lVert\mathbf w\rVert^{2}

(1)

Diagonaliser une matrice 2 sur 2Prenons

A=\begin{pmatrix}2&1\\1&2\end{pmatrix}

. Ses valeurs propres sont 3 et 1, de vecteurs propres

(1,1)

(1,-1)

, dont le produit scalaire vaut

1-1=0

: ils sont orthogonaux. Normalisés, ils forment les colonnes de

Q=\frac1{\sqrt2}\begin{pmatrix}1&1\\1&-1\end{pmatrix}

, et la première composante de chacun est

1/\sqrt2\approx0{,}707

. Alors

A^{3}=Q\,\mathrm{diag}(27,1)\,Q^{T}=\frac12\begin{pmatrix}28&26\\26&28\end{pmatrix}=\begin{pmatrix}14&13\\13&14\end{pmatrix}

, obtenu sans multiplier trois fois

A

. Les deux valeurs propres sont positives :

A

est définie positive et pourrait être une matrice de covariance.

Théorème spectral : une matrice réelle symétrique $A$ a des valeurs propres réelles et des vecteurs propres orthonormés, $A=Q\Lambda Q^{T}$ .
Signe : semi-définie positive signifie toutes les valeurs propres $\ge0$ , définie positive toutes $>0$ .
Puissances et fonctions : $A^{k}=Q\Lambda^{k}Q^{T}$ ; on applique toute fonction aux seules valeurs propres.

Lab : ce qui est noté

Faits sur les matrices symétriques15 pts
La plus grande valeur propre15 pts
Un vecteur propre unitaire10 pts
Une puissance par la décomposition propre20 pts
Une matrice de covariance valide15 pts
Un plancher pour la variance d'un portefeuille15 pts
Pourquoi l'ACP fonctionne10 pts

Pourquoi les matrices symétriques sont les plus agréables

Lab : ce qui est noté

Connectez-vous pour exécuter votre code.

Le théorème spectral

Pourquoi les matrices symétriques sont les plus agréables

Lab : ce qui est noté

Connectez-vous pour exécuter votre code.