Regresso Linear

1 Denies
Denio 1 Em uma regresso, o regressando Y denido como a varivel
dependente, ou explicada, ou resposta, ou prevista.
Denio 2 Em uma regresso o regressor X denido como a varivel
indepen- dente, ou explicativa, ou controle, ou previsora.
Denio 3 Heterocedasticidade ocorre quando a varincia do erro o
2
no
constante, de tal forma que varia com X.
Denio 4 Autocorrelao ou correlao serial ocorre quando os erros
so correlacionados, isto , 1(-
i
-
j
) 6= 0, i 6= ,.
Denio 5 Uma varivel exgena uma varivel explicativa que no
correlacionada com o erro. Se houver correlao, isto , 1(-
i
A
i
) 6= 0, dizemos
que a varivel endgena.
1
2 Interpretao de
2.1 Regresso linear simples
Indica:
a variao esperada em 1 quando A varia uma unidade; ou
a variao em 1 quando A varia uma unidade, mantendo xos todos
os demais fatores que poderiam inuenciar 1 (incorporados no termo do
erro); ou
a variao em 1 quando A varia uma unidade, ceteris paribus.
2.2 Regresso linear mltipla
Indica:
a variao esperada em 1 quando A varia uma unidade, mantendo xas
as demais variveis explicativas presentes no modelo; ou
a variao em 1 quando A varia uma unidade, mantendo xos todos
os demias fatores que poderiam inuenciar 1 (no somente as variveis
explicativas presentes no modelo); ou
a variao em 1 quando A varia uma unidade, ceteris paribus.
2
3 Formas funcionais
nvel-nvel
efeito marginal de A sobre 1
variao unitria de A e 1
, =
Y
X
log-log
elasticidade de 1 em relao a A
variao percentual de A e 1
, =
%Y
%X
log-nvel
semi-elasticidade de 1 em relao a A
variao unitria de A e percentual de 1
100, =
%Y
X
nvel-log
variao percentual de A e unitria de 1

100
=
Y
%X
funo quadrtica
1 = c +,A +cA
2

Y
X
= , + 2c
A apresenta efeito marginal decrescente sobre 1 se c < 0 e apresenta
efeito marginal crescente se c 0
3
4 Estimao dos Coecientes
Os estimadores dos coecientes de uma regresso podem ser calculados
de diversas formas: MQO, mtodo dos momentos, mxima verossimilhana.
Qualquer que seja a abordagem, os resultados obtidos so os mesmos.
4.1 Mtodo dos Momentos
Hipteses:
1(-
i
) = 0 (Hip.1)
1(-
i
A
i
) = 0 (Hip.2)
A hiptese 1 diz que o valor esperado do erro zero e a hiptese 2 diz que
o a varivel independente e o termo do erro so no correlacionados.
Observe que:
1(-
i
) = (1
i


1
i
) = (1
i
c

,A
i
) = 0
1(-
i
A
i
) = 0 ) 1[A
i
(1
i
c

,A
i
)] = 0
Isto implica:

(1
i
c

,r
i
) = 0

A
i
(1
i
c

,A
i
) = 0
Essas duas ltimas equaes so as CPO do problema de minimizao de
MQO. Desenvolvendo-as, encontramos:
c = 1

,A

, =
o
XY
o
X
2
onde o
XY
=
_
A
i
A
_ _
1
i
1
_
=

r
i
j
i
a covarincia entre A e 1 e
o
X
2 =
_
A
i
A
_
2
=

r
2
i
a varincia de A.
4.2 Propriedades:
1. Reta de MQO passa pelos pontos das mdias amostrais A e 1
2. Estimadores de MQO so BLUE (estimadores lineares de menor varincia)
4.3 Intervalo de Conana
1C
100(1)%
(c) =
_
c t
n2;

2
11( c)

e 1C
100(1)%
(,) =
_

, t
n2;

2
11(

,)
_
4
5 Estimao da varincia
5.1 Estimador no viesadao da varincia do erro (
2
)
o
2
=
oQ1
: (/ + 1)
=

(1
i


1
i
)
2
: (/ + 1)
=

-
2
i
: (/ + 1)
= oQ1
Em uma regresso linear simples, / = 1 porque existe apenas uma varivel
independente
O estimador de MV para varincia do erro dado por oQ1,: e, portanto,
viesado.
5.2 Estimador no viesadao da varincia de e

\ ( c) = o
2
1
n

A
2
i
_
A
i
A
_
2
\ (

,) = o
2
1
_
A
i
A
_
2
= o
2
1

T
x
5
6 Unidades de medida
Considere:
_

1
i
= 1
i

A
i
= {A
i
Ento, os estimadores de MQO passam a ser:

c = c

, =
_

{
_

,
\ (

c) =
2
\ ( c)
\ (

,) =
_

{
_
2
\ (

,)

o
2
=
2
o
2

1
2
= 1
2
6
7 Tabela ANOVA
G1

1
2
1
T : 1

(j
i
j)

T,G1T
1 / 2 N

( j
i
j)

1,G11
P
E
P
T
P
E
P
R
1 : (/ + 1)

(j
i
ji)

1,G11
Lema 6 possvel encontrar

E sem consultar a tabela ANOVA.
Prova.

1
i
= c +

,A
i
)

1
i
= 1

,A +

,A
i
)

1
i
1 =

,(A
i
A) )
_

1
i
1
_
2
=

,
2
(A
i
A)
2
)

_

1
i
1
_
2
=

,
2

(A
i
A)
2
=)

1 =

,
2

(A
i
A)
2
7.1 Grau de Ajuste
1
2
=

T
=

1
i
1 )
2

(1
i
1 )
2
= 1

T
= 1

(1
i


1
i
)
2

(1
i
1 )
2
Alternativamente:
1
2
= j
2
X;Y
7.1.1 Propriedades
No implica causalidade
No pode ser usado para avaliar:
transformaes de variveis explicativas (ex: Y e ln(Y))
regresso pela origem
nmero diferente de variveis
7
7.2 Estatstica F
Teste de signicncia conjunta
H
1
: pelo menos um ,
j
6= 0
1
k;nk1
=

1
=

1
o
2
=
1
2
,/
(1 1
2
),(: (/ + 1))
8
8 Regresso pela origem
8.1 Estimadores

,
o
=

1
i
A
i

A
2
i
\ (

,
o
) =
o
2

A
2
i
o
2
o
=
oQ1
: /
=

(1
i


1
i
)
2
: /
=

-
2
i
: /
8.2 Implicaes
reta no necessariamente passa pelo ponto das mdias (A, 1 )
1(-
i
A
i
) = 0 ,mas

-
i
6= 0

T 6=

1 +

1
1
2
sem signicado, podendo ser negativo
9
9 Violao dos pressupostos
9.1 No normalidade
testes t e F invlidos em amostras nitas, mas continuam vlidos assintoticamente
estimadores consistentes e no viesados
estimadores de MQO continuam BLUE (teorema de Gauss-Markov permanece
vlido)
Testes:
Jarque-Bera, Anderson-Darling, Shapiro-Wilk, Komogorov-Smirnov
H
0
distribuio normal
9.2 Heterocedasticidade
estimadores consistentes e no viesados
estimadores usuais da varincia dos coecientes so viesadoss e inconsistentes
estimadores dos erros padro viesados e inconsistentes
testes t e F invlidos
estimadores deixam de ser ecientes: Teorema de Gauss Markov no
mais vlido
Testes:
White, Breusch-Pagan, Breusch-Pagan-Godfrey, Goldfeld-Quandt
H
0
ausncia de heterocedasticidade
9.3 Autocorrelao
Mesmas consequncias da heterocedasticidade.
Testes:
Durbin-Watson, h de Durbin, Breusch-Godfrey
H
0
ausncia de autocorrelao
9.4 Endogeneidade
estimadores inconsistentes e viesados
9.5 Multicolinearidade
Identica-se a presena de multicolinearidade pela presena de estatstica
1 alta, mas estatstica t insignicante
10