Diagnóstico de resíduos VIF e Durbin–Watson

Verificar os pressupostos antes de confiar nas estrelas

Os erros-padrão de um resumo de regressão só estão certos se três coisas valerem: os resíduos não são correlacionados entre si, sua dispersão não muda no tempo e os regressores não são quase cópias uns dos outros. O statsmodels dá um teste para cada uma. A estatística de Durbin–Watson olha os resíduos vizinhos. O fator de inflação da variância, VIF, olha quão bem cada regressor pode ser reconstruído a partir dos outros. O teste de Breusch–Pagan pergunta se a dispersão dos resíduos depende dos regressores, e o de Jarque–Bera se a assimetria e as caudas pesadas são grandes o bastante para importar. Um mau resultado não torna os coeficientes inúteis, diz quais erros-padrão pôr em dúvida.

\mathrm{DW}=\frac{\sum_{t=2}^{n}(e_t-e_{t-1})^{2}}{\sum_{t=1}^{n}e_t^{2}}\approx2(1-\hat\rho_1),\qquad \mathrm{VIF}_j=\frac{1}{1-R_j^{2}},\qquad \mathrm{se}_j\propto\sqrt{\mathrm{VIF}_j}

(1)

Resíduos e dois regressores correlacionadosTomemos os resíduos

-0{,}4;0{,}8;0;-0{,}8;0{,}4

do ajuste de cinco meses. As diferenças entre vizinhos são

1{,}2;-0{,}8;-0{,}8;1{,}2

, seus quadrados somam

4{,}16

\sum e_t^2=1{,}6

, então

\mathrm{DW}=2{,}6

\hat\rho_1\approx1-2{,}6/2=-0{,}3

: os resíduos tendem a trocar de sinal. Um valor perto de

2

significa sem correlação de primeira ordem, perto de

0

correlação positiva e perto de

4

negativa. Se dois regressores têm correlação

0{,}9

, cada um é explicado pelo outro com

R_j^2=0{,}81

\mathrm{VIF}=1/0{,}19=5{,}26

. Com correlação

0{,}99

o VIF é cerca de

50

, e com

R_j^2=0{,}99

100

, o que estica os erros-padrão

\sqrt{100}=10

vezes. Em dados reais, a regressão de três fatores da Apple (

258

meses desde março de 2005) tem

\mathrm{DW}=1{,}94

e valor p de Breusch–Pagan de

0{,}21

, então há pouco a temer, embora Jarque–Bera rejeite a normalidade (

p=0{,}015

, curtose

3{,}8

). Agora acrescente o retorno excedente do fundo SPY ao lado do fator de mercado: a correlação é

0{,}994

, os dois VIF saltam para

82{,}9

, o erro-padrão da exposição ao mercado vai de

0{,}10

0{,}91

e sua estimativa passa a

-0{,}23

enquanto o

R^2

quase não se move (

0{,}347

). Por fim, regrida log HD em log LOW em

6\,696

dias:

R^2=0{,}93

mas

\mathrm{DW}=0{,}002

. Um DW muito abaixo do

R^2

avisa que dois preços com tendência estão sendo pareados por acaso.

Um alerta não é um vereditoCada diagnóstico aponta uma hipótese. Corrija o problema correspondente: erros-padrão robustos para resíduos correlacionados ou desiguais (próximo tópico), remover ou combinar regressores colineares, ou diferenciar séries com tendência.

Durbin–Watson perto de 2 é saudável, perto de 0 ou 4 indica que resíduos vizinhos estão ligados.
VIF acima de uns 10 indica que os regressores se emaranham e as estatísticas t individuais não são confiáveis.
Um $R^2$ alto com um DW minúsculo é o sinal clássico de uma regressão entre séries com tendência.

Lab: o que é avaliado

Uma estatística de Durbin–Watson20 pts
A autocorrelação implícita10 pts
Um fator de inflação da variância20 pts
Quanto um erro-padrão se estica20 pts
Associar os diagnósticos10 pts
Regressores colineares20 pts

Verificar os pressupostos antes de confiar nas estrelas

\mathrm{DW}=\frac{\sum_{t=2}^{n}(e_t-e_{t-1})^{2}}{\sum_{t=1}^{n}e_t^{2}}\approx2(1-\hat\rho_1),\qquad \mathrm{VIF}_j=\frac{1}{1-R_j^{2}},\qquad \mathrm{se}_j\propto\sqrt{\mathrm{VIF}_j}

(1)

Resíduos e dois regressores correlacionadosTomemos os resíduos

-0{,}4;0{,}8;0;-0{,}8;0{,}4

do ajuste de cinco meses. As diferenças entre vizinhos são

1{,}2;-0{,}8;-0{,}8;1{,}2

, seus quadrados somam

4{,}16

\sum e_t^2=1{,}6

, então

\mathrm{DW}=2{,}6

\hat\rho_1\approx1-2{,}6/2=-0{,}3

: os resíduos tendem a trocar de sinal. Um valor perto de

2

significa sem correlação de primeira ordem, perto de

0

correlação positiva e perto de

4

negativa. Se dois regressores têm correlação

0{,}9

, cada um é explicado pelo outro com

R_j^2=0{,}81

\mathrm{VIF}=1/0{,}19=5{,}26

. Com correlação

0{,}99

o VIF é cerca de

50

, e com

R_j^2=0{,}99

100

, o que estica os erros-padrão

\sqrt{100}=10

vezes. Em dados reais, a regressão de três fatores da Apple (

258

meses desde março de 2005) tem

\mathrm{DW}=1{,}94

e valor p de Breusch–Pagan de

0{,}21

, então há pouco a temer, embora Jarque–Bera rejeite a normalidade (

p=0{,}015

, curtose

3{,}8

). Agora acrescente o retorno excedente do fundo SPY ao lado do fator de mercado: a correlação é

0{,}994

, os dois VIF saltam para

82{,}9

, o erro-padrão da exposição ao mercado vai de

0{,}10

0{,}91

e sua estimativa passa a

-0{,}23

enquanto o

R^2

quase não se move (

0{,}347

). Por fim, regrida log HD em log LOW em

6\,696

dias:

R^2=0{,}93

mas

\mathrm{DW}=0{,}002

. Um DW muito abaixo do

R^2

avisa que dois preços com tendência estão sendo pareados por acaso.

Durbin–Watson perto de 2 é saudável, perto de 0 ou 4 indica que resíduos vizinhos estão ligados.
VIF acima de uns 10 indica que os regressores se emaranham e as estatísticas t individuais não são confiáveis.
Um $R^2$ alto com um DW minúsculo é o sinal clássico de uma regressão entre séries com tendência.

Lab: o que é avaliado

Uma estatística de Durbin–Watson20 pts
A autocorrelação implícita10 pts
Um fator de inflação da variância20 pts
Quanto um erro-padrão se estica20 pts
Associar os diagnósticos10 pts
Regressores colineares20 pts

Diagnóstico de resíduos VIF e Durbin–Watson

Verificar os pressupostos antes de confiar nas estrelas

Lab: o que é avaliado

Entre para executar o seu código.

Diagnóstico de resíduos VIF e Durbin–Watson

Verificar os pressupostos antes de confiar nas estrelas

Lab: o que é avaliado

Entre para executar o seu código.