Hétéroscédasticité et erreurs robustes

Quand le bruit n'est pas le même partout

Les moindres carrés ordinaires ajustent $y_i=\beta_0+\beta_1x_i+\varepsilon_i$ , et leurs erreurs types de manuel supposent l'homoscédasticité : la variance de l'erreur $\sigma^2$ est la même pour toute observation. En finance, c'est rarement vrai. La volatilité se regroupe (périodes calmes, puis turbulence), et le bruit autour d'une relation croît souvent avec la taille de la variable. Quand la dispersion des erreurs change, les données sont hétéroscédastiques.

\widehat{\operatorname{Var}}_{\text{White}}(\hat\beta)=(X^{T}X)^{-1}\Big(\sum_i\hat\varepsilon_i^{2}\,\mathbf{x}_i\mathbf{x}_i^{T}\Big)(X^{T}X)^{-1}

(1)

Les conséquences sont précises. Les estimations $\hat\beta$ restent sans biais et convergentes : la droite ajustée n'est pas fausse. Mais les erreurs types usuelles, donc les statistiques $t$ , intervalles de confiance et valeurs $p$ qui en dérivent, peuvent être trop petites ou trop grandes, et les conclusions induisent en erreur. Deux remèdes classiques : les erreurs types robustes à l'hétéroscédasticité (White), qui remplacent la constante $\sigma^2$ par le carré du résidu de chaque observation, et les moindres carrés pondérés, qui donnent moins de poids aux observations plus bruitées, $w_i\propto1/\sigma_i^2$ , quand on sait comment se comporte la variance.

Même coefficient, preuve différenteUne régression donne

\hat\beta=0{,}25

avec une erreur type classique de

0{,}10

, donc

t=2{,}5

, apparemment significatif. Avec des erreurs types robustes à l'hétéroscédasticité, l'estimation est la même mais l'erreur type vaut

0{,}15

, donc

t=0{,}25/0{,}15\approx1{,}67

, qui n'est plus significatif à 5 %. L'intervalle à 95 % passe de

0{,}25\pm0{,}196

0{,}25\pm1{,}96\cdot0{,}15=0{,}25\pm0{,}294

, qui contient désormais zéro. Pour les poids, si la variance de l'erreur croît comme

x^2

, le poids d'une observation avec

x=2

est

1/x^2=0{,}25

Hétéroscédasticité : la variance de l'erreur change d'une observation à l'autre.
Effet : les coefficients restent sans biais, les erreurs types et les tests deviennent peu fiables.
Remèdes : erreurs types robustes (White) ou moindres carrés pondérés avec $w_i\propto1/\sigma_i^2$ .

Regardez d'abord les résidusTracez les résidus en fonction des valeurs ajustées et du temps. Une forme en entonnoir signifie que la dispersion croît avec le niveau, et des rafales de grands résidus suivies de calme indiquent des grappes de volatilité. Le test de Breusch-Pagan en fait une valeur

p

formelle. Comme les erreurs types robustes ne coûtent presque rien sur un grand échantillon, beaucoup de praticiens les rapportent par défaut pour les données financières.

Lab : ce qui est noté

Ce que signifie l'hétéroscédasticité15 pts
Une statistique t robuste15 pts
Ce qu'elle fait à une régression15 pts
Diagnostiquer et réparer15 pts
Un poids de moindres carrés10 pts
Un intervalle robuste15 pts
Les régressions de rendements exigent des erreurs robustes15 pts

Quand le bruit n'est pas le même partout

\widehat{\operatorname{Var}}_{\text{White}}(\hat\beta)=(X^{T}X)^{-1}\Big(\sum_i\hat\varepsilon_i^{2}\,\mathbf{x}_i\mathbf{x}_i^{T}\Big)(X^{T}X)^{-1}

(1)

Même coefficient, preuve différenteUne régression donne

\hat\beta=0{,}25

avec une erreur type classique de

0{,}10

, donc

t=2{,}5

, apparemment significatif. Avec des erreurs types robustes à l'hétéroscédasticité, l'estimation est la même mais l'erreur type vaut

0{,}15

, donc

t=0{,}25/0{,}15\approx1{,}67

, qui n'est plus significatif à 5 %. L'intervalle à 95 % passe de

0{,}25\pm0{,}196

0{,}25\pm1{,}96\cdot0{,}15=0{,}25\pm0{,}294

, qui contient désormais zéro. Pour les poids, si la variance de l'erreur croît comme

x^2

, le poids d'une observation avec

x=2

est

1/x^2=0{,}25

Hétéroscédasticité : la variance de l'erreur change d'une observation à l'autre.
Effet : les coefficients restent sans biais, les erreurs types et les tests deviennent peu fiables.
Remèdes : erreurs types robustes (White) ou moindres carrés pondérés avec $w_i\propto1/\sigma_i^2$ .

p

formelle. Comme les erreurs types robustes ne coûtent presque rien sur un grand échantillon, beaucoup de praticiens les rapportent par défaut pour les données financières.

Lab : ce qui est noté

Ce que signifie l'hétéroscédasticité15 pts
Une statistique t robuste15 pts
Ce qu'elle fait à une régression15 pts
Diagnostiquer et réparer15 pts
Un poids de moindres carrés10 pts
Un intervalle robuste15 pts
Les régressions de rendements exigent des erreurs robustes15 pts

Hétéroscédasticité et erreurs robustes

Quand le bruit n'est pas le même partout

Lab : ce qui est noté

Connectez-vous pour exécuter votre code.

Hétéroscédasticité et erreurs robustes

Quand le bruit n'est pas le même partout

Lab : ce qui est noté

Connectez-vous pour exécuter votre code.