O que heterocedasticidade?

Heterocedasticidade
y = 0 + 1x1 + 2x2 + . . . kxk + u
Lembre-se da hiptese de homocedasticidade: condicional s variveis explicativas, a varincia do erro, u, constante. Se isso no for verdade, ou seja, se a varincia de u diferente para diferentes valores de xs, ento os erros so heterocedsticos. Exemplo: pense no gasto das famlias com alimentao em funo da renda; medida que a renda aumenta, aumenta a varincia dos gastos em alimentao.
1 2

Exemplo de heterocedasticidade
f(y|x)

Por que se preocupar com heterocedasticidade?

MQO continua no tendencioso e consistente, mesmo sem a hiptese de homocedasticidade. Mas os erros-padro dos coeficientes estimados sero viesados se h heterocedasticidade. Se os erros-padro so viesados, no podemos utilizar as estatsticas t, F e LM usuais.
4

.
x1 x2 x3

E(y|x) = 0 + 1x

x
3

Varincia com heterocedasticidade

O para o caso da regresso linear simples, 1 = 1 + Var 1 =

Varincia com heterocedasticidade (cont.)

( )
i

(xi x )ui ,e 2 (xi x ) 2 (xi x ) i2

SQTx2
2 2 i

, onde SQTx = ( xi x ) .
2 2 i 2

( ) r u Var ( ) = SQT
j j

Para a regresso linear mltipla, um estimador vlido da Var com heterocedasticidade

2 ij i 2 j

, onde rij o i simo resduo da

regresso de x j em todas as outras variveis independentes, e SQT j a soma dos quadrados dos resduos dessa regresso.

Um estimador vlido, quando , (x x ) u SQT

2 x

, onde ui o resduo de MQO.

5 6

Erros-padro robustos
Agora que temos uma estimativa consistente da varincia, sua raiz quadrada ser uma estimativa do erro-padro. Tais erros-padro so chamados de erros-padro robustos. s vezes a varincia estimada corrigida pelos graus de liberdade, pela multiplicao por n/(n k 1). Quando n , essa correo faz pouca diferena.
7

Erros-padro robustos (cont.)

importante lembrar que esses errospadro robustos tm justificativa apenas assinttica com amostras pequenas, as estatsticas ts obtidas com os erros-padro robustos no tero distribuio prxima da t, e as inferncias no sero corretas. No Gretl h a opo de se calcular tais erros-padro robustos.
8

Teste de heterocedasticidade
Queremos testar se H0: Var(u|x1, x2,, xk) = 2, que equivalente a H0: E(u2|x1, x2,, xk) = E(u2) = 2. Se assumirmos que a relao entre u2 e xj linear, podemos testar uma restrio linear. Logo, para u2 = 0 + 1x1 ++ k xk + v, isso significa testar: H0: 1 = 2 = = k = 0 (modelo homocedstico).
9

O teste de Breusch-Pagan
No observamos o erros, mas podemos utilizar suas estimativas: os resduos da regresso por MQO. Aps fazer a regresso dos quadrados dos resduos em todos os xs, podemos utilizar o R2 para obter um teste F ou LM. A estatstica F simplesmente a estatstica F da significncia da regresso: F = [R2/k]/[(1 R2)/(n k 1)], que tem distribuio Fk, n k 1. A estatstica LM LM = nR2, que tem distribuio 2k.
10

Exemplo Exemplo
Banco de dados Hprice1.gdt Verificar a heterocedasticidade em uma equao simples de preos de imveis. Aps fazer a regresso original, geramos os resduos e o quadrado destes resduos em todos os xs (Gravar Resduos Quadrados cria uma nova varivel no banco de dados chamada usq1).
Modelo 1: Estimativas OLS usando as 88 observaes 1-88 Varivel dependente: price Varivel const lotsize sqrft bdrms Coeficiente Erro Padro estatstica-t -21,7703 29,475 -0,7386 0,00206771 0,000642126 3,2201 0,122778 0,0132374 9,2751 13,8525 9,01015 1,5374 p-valor 0,46221 0,00182 <0,00001 0,12795

*** ***

Mdia da varivel dependente = 293,546 Desvio padro da varivel dependente = 102,713 Soma dos resduos quadrados = 300724 Erro padro dos resduos = 59,8335 R2 no-ajustado = 0,672362 R2 ajustado = 0,660661 Estatstica-F (3, 84) = 57,4602 (p-valor < 0,00001) Verosimilhana-Logartmica = -482,877 Critrio de informao de Akaike = 973,755 Critrio Bayesiano de Schwarz = 983,664 Critrio de Hannan-Quinn = 977,747
12

11

Exemplo

Exemplo
Modelo 2: Estimativas OLS usando as 88 observaes 1-88 Varivel dependente: usq1 Varivel const lotsize sqrft bdrms Coeficiente Erro Padro estatstica-t -5522,79 3259,48 -1,6944 0,201521 0,0710091 2,8380 1,69104 1,46385 1,1552 1041,76 996,381 1,0455 p-valor 0,09390 0,00569 0,25128 0,29877 * ***

13

Mdia da varivel dependente = 3417,32 Desvio padro da varivel dependente = 7094,38 Soma dos resduos quadrados = 3,67752e+009 Erro padro dos resduos = 6616,65 R2 no-ajustado = 0,160141 R2 ajustado = 0,130146 Estatstica-F (3, 84) = 5,33892 (p-valor = 0,00205) Verosimilhana-Logartmica = -896,986 Critrio de informao de Akaike = 1801,97 Critrio Bayesiano de Schwarz = 1811,88 Critrio de Hannan-Quinn = 1805,96

P-valor baixo, forte evidncia contra a hiptese nula LM = 88.(0,1601)=14,09 P-valor =~0,0028
14

O teste de White
O teste de Breusch-Pagan ir detectar formas de heterocedasticidade lineares. O teste de White permite no-linearidades por utilizar quadrados e produtos cruzados de todos os xs. Basta computar a estatstica F ou LM para testar se todos os xj, xj2 e xjxh so conjuntamente significativos.

Forma alternativa do teste de White

Suponha que o valores ajustado por MQO, , funo de todos os xs. Logo, 2 ser funo dos quadrados e produtos cruzados e, portanto, e 2 sero proxies para todos os xj, xj2 e xjxh; ento: Faa a regresso dos resduos ao quadrado em e 2 e use o R2 para obter a estatstica F ou LM. Agora o teste para apenas 2 restries.

Problema: se muitos regressores, usa muitos graus de liberdade.

15 16

Exemplo
Modelo 5: Estimativas OLS usando as 88 observaes 1-88 Varivel dependente: lprice Varivel const llotsize lsqrft bdrms Coeficiente Erro Padro estatstica-t -1,29704 0,651284 -1,9915 0,167967 0,0382811 4,3877 0,700232 0,0928652 7,5403 0,0369583 0,0275313 1,3424 p-valor 0,04967 0,00003 <0,00001 0,18308 ** *** ***

Exemplo

Mdia da varivel dependente = 5,63318 Desvio padro da varivel dependente = 0,303573 Soma dos resduos quadrados = 2,86256 Erro padro dos resduos = 0,184603 R2 no-ajustado = 0,642965 R2 ajustado = 0,630214 Estatstica-F (3, 84) = 50,4237 (p-valor < 0,00001) Verosimilhana-Logartmica = 25,8607 Critrio de informao de Akaike = -43,7213 Critrio Bayesiano de Schwarz = -33,812 Critrio de Hannan-Quinn = -39,7291
17 18

Exemplo
Modelo 6: Estimativas OLS usando as 88 observaes 1-88 Varivel dependente: usq Varivel const yhat yhatsqr Coeficiente Erro Padro estatstica-t 5,04683 3,345 1,5088 -1,70922 1,16333 -1,4692 0,145135 0,100992 1,4371 p-valor 0,13507 0,14546 0,15436

Mnimos quadrados ponderados

Embora seja possvel estimar os erros-padro robustos para os estimadores de MQO, se soubermos alguma coisa sobre a forma especfica da heterocedasticidade, poderemos obter estimadores mais eficientes que os de MQO. Como devemos especificar a natureza da heterocedasticidade, o processo de estimao mais trabalhoso. A idia bsica transformar o modelo em outro cujos erros sejam homocedsticos.
20

Mdia da varivel dependente = 0,0325291 Desvio padro da varivel dependente = 0,0736048 Soma dos resduos quadrados = 0,452874 Erro padro dos resduos = 0,0729926 R2 no-ajustado = 0,0391735 R2 ajustado = 0,0165658 Estatstica-F (2, 85) = 1,73275 (p-valor = 0,183) Verosimilhana-Logartmica = 106,99 Critrio de informao de Akaike = -207,981 Critrio Bayesiano de Schwarz = -200,549 Critrio de Hannan-Quinn = -204,987

LM=88.(0,0392) P-valor 0,178

19

Exemplo de mnimos quadrados ponderados

Suponha que a heterocedasticidade seja dada por Var(u|x) = 2h(x). h(x) uma funo das variveis explicativas e determina a forma da heterocedasticidade, ou seja, como a varincia depender de x. h(x) > 0 , pois a varincia positiva e h(x) conhecida. O parmetro populacional 2 no conhecido, mas pode ser estimado atravs do uso dos dados.
21

Exemplo de mnimos quadrados ponderados

Neste caso, a varincia do erro proporcional ao nvel de renda. Quanto maior o nvel de renda, maior a varincia do termo de erro, ou seja, maior a variabilidade da poupana.

22

Exemplo de mnimos quadrados ponderados

Como usamos a informao sobre o formato da heterocedasticidade para estimar os parmetros do modelo e fazer inferncia? Modelo original heterocedstico:

Exemplo de mnimos quadrados ponderados

E(ui/hi|x) = 0, pois hi apenas uma funo de x, e Var(ui/hi|x) = 2. Logo, se dividirmos toda a equao por hi, teremos um modelo com erros homocedsticos.

Temos que transformar esta equao de forma que os erros virem homocedsticos.

23

24

Exemplo de mnimos quadrados ponderados

Podemos obter os estimadores de tal forma que as propriedades de eficincia destes estimadores MQO sejam melhores do que no modelo anterior com presena de heterocedasticidade. No exemplo da poupana:

Mnimos quadrados generalizados

A estimao da equao transformada por MQO um exemplo de mnimos quadrados generalizados, MQG (ou GLS, em ingls). MQG ser BLUE neste caso. MQG igual aos mnimos quadrados ponderados, MQP (ou WLS, em ingls) onde cada resduo ao quadrado ponderado pelo inverso da Var(ui|xi).
26

O novo modelo satisfaz as hipteses do modelo linear clssico.

25

Mnimos quadrados ponderados (cont.)

A idia minimizar a soma dos quadrados ponderados por 1/hi. D-se menos peso para as observaes com maior varincia. MQO timo se conhecermos Var(ui|xi). Mas, em geral, no a conhecemos.

MQG Factvel
Quando no conhecemos a forma da heterocedasticidade, precisamos estimar h(xi). Em geral, iniciamos com uma hiptese flexvel, tal como: Var(u|x) = 2exp(0 + 1x1 + + kxk) Precisamos, ento, estimar os s.
28

27

MQGF (cont.)
Nossa hiptese implica que u2 = 2exp(0 + 1x1 + + kxk)v, onde E(v|x) = 1; ento se E(v) = 1: ln(u2) = 0 + 1x1 + + kxk + e, onde E(e) = 1 e e independente dos xs. Agora, podemos substituir u por , e estimar a equao por MQO.
29

MQGF (cont.)
A estimativa de h obtida por = exp(); o peso ser o inverso dessa estimativa. Resumindo: Faa a regresso por MQO da equao original, salve os resduos, , eleve-os ao quadrado e tire o log. Faa a regresso de ln(2) em todas as variveis independentes o obtenha o valor ajustado . Faa a regresso por MQP utilizando 1/exp() como ponderador.
30

Observaes sobre MQP

Lembre-se que utiliza-se MQP apenas por eficincia, pois MQO continua no tendencioso e consistente. As estimativas sero diferentes devido a erros amostrais, mas se forem muito diferentes, ento alguma outra hiptese de Gauss-Markov tambm deve estar sendo violada.

31