Modelo de Regresin Lineal Normal Clsico

Leccin
Econometra
Modelo de regresin normal clsico
Citar como: Zamora, MM y Estavillo, J (2001): "Modelo de regresin normal clsico", [en lnea 5campus.org,
Econometra !"##$:%%&&&'(cam$)s'org%leccion%ecoreg* [y a+adir ,ec"a cons)l#a
I. OBJETIVO
-l o./e#i0o de es#e ca$#)lo es in#rod)cir al es#)dian#e en el anlisis c)an#i#a#i0o de las
relaciones 1)e 0inc)lan las 0aria.les econmicas en#re s seg2n )na es#r)c#)ra lineal'
3 $ar#ir de las relaciones c)ali#a#i0as es#)diadas $or la 4eora -conmica y ,orm)lando
en #5rminos es#ads#icos dic"as relaciones, se desarrollan los modelos econom5#ricos,
1)e en s) ,orma ms sencilla se anali6an en es#e ca$#)lo'
II. ESTRUCTURA
-n es#e ca$#)lo se desarrolla )n modelo econom5#rico )niec)acional y se es#r)c#)ra
en los sig)ien#es e$gra,es:
1. -s$eci,icacin del modelo
2. -s#imacin de los $arme#ros del modelo
3. 3nlisis del modelo
3.1. 7escom$osicin de la 8)ma de C)adrados
3.2. Medida de la 9ondad de 3/)s#e
3.3. :n,erencia acerca de los $arme#ros
4. ;rediccin
1
Modelo de Regresin Lineal Normal Clsico
1. ESPECIFICACIN DEL MODELO
-l modelo de regresin lineal normal clsico (MRLNC), 1)e se 0a a es#)diar, considera
1)e la relacin en#re la 0aria.le de$endien#e (<) y las inde$endien#es (=1 ,=2, ''' , =>) se
$)ede ,orm)lar ma#ricialmen#e a $ar#ir de la sig)ien#e e?$resin lineal:
) @ = < +
donde:

,
_

n
2
1
<
'''
<
<
< [ ]
> 2 1
n> 2 n 1 n
> 2 22 21
> 1 12 11
= ''' = =
= ''' = =
''' ''' ''' '''
= ''' = =
= ''' = =
=

,
_

,
_

A
2
1
'''

,
_

n
2
1
)
'''
)
)
)
1)e desarrollando se ,orm)lara:
i iA A 2 i 2 1 i 1 i
) = ''' = = < + + + +
iB1,2,''', n
si se considera 1)e en el modelo e?is#e #5rmino inde$endien#e, la ma#ri6 = se $)ede
e?$resar como:

,
_

nK n
K
K
X ... X
... ... ... ...
X ... X
X ... X
X
2
2 22
1 12
1
1
1
[ ]
> C 2
= ''' = = =
y el modelo 1)edara:
i iA A 2 i 2 1 i
) = ''' = < + + + +
iB1,2,''', n
-s#a relacin ,)ncional se conoce como "i$#esis de linealidad' 3dems se
es#a.lecen, en relacin con el modelo, o#ro con/)n#o de "i$#esis re,eridas a la 0aria.le
de $er#)r.acin y a la ma#ri6 de regresores:
Hiptesis
1'
) = < +
2.
0 ) ) ( -
C' : @ ) D )) ( -
2
E

F' = ma#ri6 de regresores no es#ocs#ica
5.
( ) n k X
6.
)

) (0, N
2
)

2
Modelo de Regresin Lineal Normal Clsico
-n el modelo es#)diado en es#e ca$#)lo se s)$one 1)e se 0eri,ican las G "i$#esis
an#eriores, $or lo 1)e siem$re se #ra.a/ar .a/o el s)$)es#o de )n modelo de regresin
lineal, normal, clsico'
2. ESTIMACIN DE LOS PARMETROS DEL MODELO
-n el modelo de regresin es$eci,icado e?is#e )n con/)n#o de $arme#ros
desconocidos (/ y
2
u
)' ;or ello, en $rimer l)gar, se #ra#ar de s) es#imacin'
-?is#en di0ersos m5#odos $ara es#imar los $arme#ros del modelo, m)c"os de los
c)ales se .asan en los resid)os o errores, 1)e se de,inen como la di,erencia en#re el
0alor real de 0aria.le de$endien#e y el es#imado $or el modelo $ara dic"a 0aria.le'
i i i
<
H
< e iB1,2,''',n
-n#re los m5#odos 1)e es#iman los $arme#ros del modelo a $ar#ir de los resid)os, el
ms sencillo es el m5#odo de Mnimos C)adrados Irdinarios (MCI), 1)e "ace
mnima la s)ma de los c)adrados de los resid)os'
;ar#iendo de

n
1 i
2
i
e Minimi6ar
8e o.#iene )n sis#ema de ec)aciones (ec)aciones normales) < D = . @ = D =
1)e $ermi#e o.#ener los es#imadores mnimo c)adr#ico ordinarios (-MCI) de los
$arme#ros / a $ar#ir de la e?$resin:
( )
H
'
H
H

.
'
.
.
< D = = D = .
>
2
1
>
2
1
1

,
_

,
_

donde

,
_

n
1 i
2
i>
n
1 i
2 i i>
n
1 i
1 i i>
n
1 i
i> 2 i
n
1 i
2
2 i
n
1 i
1 i 2 i
n
1 i
i> 1 i
n
1 i
2 i 1 i
n
1 i
2
1 i
= ''' = = = =
''''' ''' ''''' '''''
= = ''' = = =
= = ''' = = =
= D =

,
_

n
1 i
i i>
n
1 i
i 2 i
n
1 i
i 1 i
< =
''''
< =
< =
< J =
Cada )no de los coe,icien#es ./ re$resen#a el e,ec#o de la 0aria.le inde$endien#e so.re
la 0aria.le e?$licadaK es decir el 0alor es#imado de ./ indica la 0ariacin 1)e
e?$erimen#a la 0aria.le de$endien#e c)ando la 0aria.le inde$endien#e =/ 0ara en )na
)nidad y #odas las dems $ermanecen cons#an#es'
3
Modelo de Regresin Lineal Normal Clsico
8i en el modelo e?is#iera #5rmino inde$endien#e, es#as ma#rices se sim$li,icaran con
las sig)ien#es e?$resiones

,
_

n
i
ik
n
i
i ik
n
i
ik
n
i
ik i
n
i
i
n
i
i
n
i
ik
n
i
i
X ... X X X
..... ... ..... .....
X X ... X X
X ... X n
X ' X
1
2
1
2
1
1
2
1
2
2
1
2
1 1
2

,
_

n
i
i ik
n
i
i i
n
i
i
Y X
....
Y X
Y
Y ` X
1
1
2
1
-s#os es#imadores MCI son es#imadores lineales, insesgados y $#imos (-L:I) en el
modelo de regresin lineal, normal, clsico'
-l es#imador de la 0arian6a de la $er#)r.acin no se ded)ce del sis#ema de
ec)aciones normalesK se calc)la a $ar#ir de la ,rm)la:
> n
8CR
8
2
)

y se $)ede com$ro.ar 1)e es el es#imador insesgado L ( )

2
)
2
)
8 - L de la 0arian6a
de la $er#)r.acin'
4
Modelo de Regresin Lineal Normal Clsico
3. ANLISIS DEL MODELO
C'1' 7-8CIM;I8:C:MN 7- L3 8EM3 7- CE37R37I8
-l modelo de regresin se $lan#ea $ara e?$licar el com$or#amien#o de la 0aria.le
de$endien#e (<)' -n dic"o es#)dio ser in#eresan#e anali6ar la 0ariacin 1)e
e?$erimen#a es#a 0aria.le y, den#ro de es#a 0ariacin, es#)diar 1)5 $ar#e es# siendo
e?$licada $or el modelo de regresin y 1)5 $ar#e es de.ida a los errores o resid)os'
;ara ello y, a $ar#ir de los resid)os, se $)ede o.#ener la e?$resin
e D e <
H
D <
H
< D < +
-n el s)$)es#o 1)e e?is#a #5rmino inde$endien#e en el modelo de regresin, la
descom$osicin an#erior, se e?$resara como:
8CR 8C- 8C4 +
donde:
8C4: es la 8)ma de C)adrados 4o#ales y re$resen#a )na medida de la
0ariacin de la 0aria.le de$endien#e
8C- es la 8)ma de C)adrados -?$licados $or el modelo de regresin
8CR es la 8)ma de C)adrados de Resid)os
Cada )na de es#as s)mas 0iene dada $or las e?$resiones:
2
n
1 i
2 2
< n < < n < D < 8C4

2
< n < D = D . 8C-

n
1 i
2
i
e 8CR
y si en el modelo e?is#e #5rmino inde$endien#e,
< D = D . < D < 8C- 8C4 8CR
5
Modelo de Regresin Lineal Normal Clsico
C'2' CI-N:C:-N4- 7- 7-4-RM:N3C:MN
Ena 0e6 es#imado el modelo es con0enien#e o.#ener )na medida acerca de la .ondad
del a/)s#e reali6ado' En es#ads#ico 1)e ,acili#a es#a medida es el coe,icien#e de
de#erminacin (R
2
), 1)e se de,ine:
8C4
8CR
1 R
2

y en el caso $ar#ic)lar de modelo con #5rmino inde$endien#e:
8C4
8C-
R
2

-s#e coe,icien#e $ermi#e, adems, seleccionar en#re modelos clsicos 1)e #engan el
mismo n2mero de regresores, ya 1)e la ca$acidad e?$lica#i0a de )n modelo es mayor
c)an#o ms ele0ado sea el 0alor 1)e #ome es#e coe,icien#e'
;or o#ra $ar#e el 0alor coe,icien#e de de#erminacin crece con el n2mero de regresores
del modelo' ;or ello, si los modelos 1)e se com$aran #ienen dis#in#o n2mero de
regresores, no $)ede es#a.lecerse com$aracin en#re s)s R
2
' -n es#e caso de.e
em$learse el coe,icien#e de de#erminacin corregido
2
R
, 1)e de$)ra el incremen#o
1)e e?$erimen#a el coe,icien#e de de#erminacin c)ando el n2mero de regresores es
mayor'
( )
2 2
R 1
> n
1 n
1
1 n 8C4
> n 8CR
1 R

6
Modelo de Regresin Lineal Normal Clsico
C'C :NN-R-NC:3 3C-RC3 7- LI8 -84:M37IR-8
-l m5#odo de es#imacin e?$)es#o $ermi#e o.#ener es#imaciones $)n#)ales de los
$arme#ros del modelo' La in,erencia $ermi#e com$le#ar es#a es#imacin $)n#)al,
median#e la es#imacin $or in#er0alos y los con#ras#es de "i$#esis'
Los $rimeros $osi.ili#an la o.#encin de )n in#er0alo den#ro del c)al, con )n
de#erminado ni0el de con,ian6a, oscilar el 0erdadero 0alor de )n $arme#ro'
:n#er0alo de con,ian6a $ara el $arme#ro /
8) clc)lo se reali6a median#e:
( )
k n b j
t S b IC
j j

t :

donde /
.
8
es la des0iacin #$ica es#imada $ara el coe,icien#e ./ 1)e se o.#iene de la
ma#ri6 de 0arian6as y co0arian6as de los es#imadores e?$resada como:
'

,
_

2
. . . . .
2
. .
2
. . .
. . . .
2
.
..
A 2 A 1 A
A 2 2 1 2
A 1 2 1 1
'''
''' ''' ''' '''
'''
'''
c)yos es#imadores sern

,
_

2
.
. . . .
2
. .
2
.
. .
. . . .
2
.
..
A
2 A 1 A
A 2 2
1 2
A 1 2 1
1
8 ''' 8 8
''' ''' ''' '''
8 ''' 8 8
8 ''' 8 8
8
o.#enidos a $ar#ir de la e?$resin:
( )

,
_

nn 2 n 1 n
n 2 22 21
n 1 12 11
2 1 2
..
a ''' a a
''' ''' ''' '''
a ''' a a
a ''' a a
8 = D = 8 8
donde ai / iden#i,ica el elemen#o de la ,ila i, col)mna /, de la ma#ri6 (=O=)
L1
:n#er0alo de con,ian6a $ara la 0arian6a de la $er#)r.acin:

,
_

,
_

2 2 2
2
2
2
2
)
2
1
2 2
1
2
8CR
K
8CR ) > n ( 8
K
) > n ( 8
: :C
donde re$resen#a el ni0el de signi,icacin del con#ras#e y generalmen#e se )#ili6a )n
(P de signi,icacin
7
Modelo de Regresin Lineal Normal Clsico
3 #ra05s de los contr!t"! #" $%&'t"!%! $)eden e?#raerse consec)encias del modelo,
a0erig)ando si e?is#e, o no, e0idencia acerca de )na serie de con/e#)ras 1)e $)eden
$lan#earse so.re s)s $arme#ros'
Los con#ras#es de "i$#esis $)eden clasi,icarse en dis#in#as ca#egoras seg2n la
na#)rale6a de la "i$#esis $lan#eada'
Con#ras#e indi0id)al so.re )n $arme#ro
Norm)lacin de la "i$#esis:
Q
/ / 0
: R
Q
/ / 1
: R
-s#ads#ico e?$erimen#al
/
.
Q
/ /
e?$
8
.
#

-s#ads#ico #erico
) 2 / (
k n tco
t t

Regla de decisin: si #co e?$

# # >
8e rec"a6a la "i$#esis n)la
Con#ras#e de signi,icacin indi0id)al
Norm)lacin de la "i$#esis:
0 : R
/ 0

0 : R
/ 1

-s#ads#ico e?$erimen#al
/
.
/
e?$
8
.
#
-s#ads#ico #erico
) 2 / (
k n tco
t t

Regla de decisin: si #co e?$

# # >
8e rec"a6a la "i$#esis n)la
8
Modelo de Regresin Lineal Normal Clsico
Con#ras#es $ara con/)n#os de "i$#esis lineales
Norm)lacin de la "i$#esis:
r R : R
0


o al#erna#i0amen#e
1 A 1> 2 2 1 1 1 1
2 A > 2 2 22 1 21
1 A > 1 2 12 1 11 0
r r ''' r r
''' ''''''''''
r r ''' r r
r r ''' r r : R
+ + +
+ + +
+ + +
-s#ads#ico e?$erimen#al
( ) ( ) [ ] ( )
> n
8CR
1
r R. @ D R = D = @ R @ r R.
N
1
1
e?$

donde 1 re$resen#a el n2mero de ec)aciones de la "i$#esis n)la

-s#ads#ico #erico
( ) , > n , 1 N N
#co
Regla de decisin: si #co e?$
N N >
8e rec"a6a la "i$#esis n)la
Con#ras#e de signi,icacin glo.al
Norm)lacin de la "i$#esis
0 ''' : R
A C 2 0

-s#ads#ico e?$erimen#al
( )
> n
R 1
1 >
R
> n
8CR
1 >
8C-
N
2
2
e?$

-s#ads#ico #erico
( ) , > n , 1 > N N
#co
Regla de decisin: si #co e?$
N N >
8e rec"a6a la "i$#esis n)la
9
Modelo de Regresin Lineal Normal Clsico
Con#ras#e de signi,icacin de )n s).con/)n#o $aram5#rico
3gr)$ando las 0aria.les e?$lica#i0as en dos s).con/)n#os, el modelo se $)ede
es$eci,icar como:
e b X b X Y
S S r r
+ +
7onde se consideran dos s).con/)n#os de coe,icien#es y de regresores:
br : coe,icien#es c)ya signi,icacin no se some#e a con#ras#e
bS : coe,icien#es some#idos a con#ras#eK coe,icien#es acerca de c)ya
signi,icacin se #iene d)da
Xr : s).ma#ri6 de n ,ilas y (k-s) col)mnas, 1)e con#iene los regresores de =
c)ya signi,icacin no se con#ras#a
XS : ma#ri6 de regresores 1)e con#iene los regresores so.re los 1)e s se #iene
d)da acerca de si de.en o no incl)irse en el modelo
Norm)lacin de la "i$#esis:
0 ... :
2 1 0

+ + K S K S K
H
o al#erna#i0amen#e
0 . .......... :
2 1 0

+ + K r r
H
-s#ads#icos e?$erimen#ales:
( ) ( ) [ ] ( )
( )
> n
8CR
s
. = @ M @ = .
> n
8CR
1
r R. @ D R = D = @ R D@ r R.
N
8 8 r
D
8
D
8
1
1
e?$

( )
> n
e eD
s
e eD e e
> n
8CR
s
CR 8
> n
8CR
s
8C-
N
r
D
r
e?$

donde s re$resen#a el n2mero de ec)aciones de la "i$#esis n)la, es decir el n2mero

de regresores c)ya signi,icacin se some#e a con#ras#e
-s#ads#ico #erico:
( ) , > n , s N N
#co
Regla de decisin: si #co e?$
N N >
8e rec"a6a la "i$#esis n)la
10
Modelo de Regresin Lineal Normal Clsico
3$licacin $rc#ica de es#e con#ras#e:
1) Regresin so.re el s).con/)n#o de regresores no some#ido a con#ras#e:
r
R
X Y
2) Clc)lo de la 8)ma de C)adrados de Resid)os de la regresin an#erior :
r r r
e e SCR
'

C) Regresin so.re el #o#al de regresores :

S r
R
X X Y ,
F) Clc)lo de la 8)ma de C)adrados de Resid)os e e SCR '
() Clc)lo de los es#ads#icos e?$erimen#al y #erico
( )
( )

, > n , s N
> n
e eD
s
e eD e e
N
r
D
r
e?$
An()%!%! #" ) *r%n+
Ena ,orma com$lemen#aria de $resen#ar alg)nos de los con#ras#es de "i$#esis
an#eriores consis#e en reali6ar )n anlisis de la 0arian6a de <, #al como se recoge en el
c)adro sig)ien#e:
N)en#e de Sariacin 8)ma de C)adrados Trados de li.er#ad C)adrados Medios
r
X
S
X

(Q) -
U
C
U
8
U
e D e e e 8C-
r
D
r

r-1
s
s
SCE
X
Resid)os
8C-
e D e 8CR
k-1
n-k
( ) > n
8CR

4o#al
2 D
< n < < 8C4
n-1
(Q) -
U
C
U
8
U
8)ma de C)adrados o.#enida de la regresin a)?iliar 1)e considera como
regresores el s).con/)n#o de los no some#idos a con#ras#e (=r)
11
Modelo de Regresin Lineal Normal Clsico
4. PREDICCIN EN EL MODELO DE RE,RESIN
Ena 0e6 es#imado y 0alidado el modelo, )na de s)s a$licaciones ms im$or#an#es
consis#e en $oder reali6ar $redicciones acerca del 0alor 1)e #omara la 0aria.le
de$endien#e en el ,)#)ro o $ara )na )nidad e?#ram)es#ral'
-s#a $rediccin se $)ede reali6ar #an#o $ara )n 0alor indi0id)al como $ara )n 0alor
medio, o es$erado, de la 0aria.le de$endien#e, siendo $osi.le e,ec#)ar )na $rediccin
$)n#)al o $or in#er0alos' 8) clc)lo se reali6a median#e las e?$resiones 1)e ,ig)ran a
con#in)acin'
;redic#or indi0id)al: 0alor es#imado o de $rediccin $ara la o.ser0acin
b X Y
f f
'

:n#er0alo de $rediccin $ara )n 0alor indi0id)al
( ) ( )
1
]
1

+ + +

,
1
D
, > n , ,
1
D
, > n , <
= = D = = 1 8 # <
H
K = = D = = 1 8 # <
H
: :C
,
con [ ]
,A 2 , 1 ,
D
,
= ''' = = =
:n#er0alos de $rediccin $ara )n 0alor medio o es$erado
( )
( ) ( )
1
]
1

,
1
D
, > n , ,
1
D
, > n , < -
= = D = = 8 # <
H
K = = D = = 8 # <
H
: :C
,
12
Modelo de Regresin Lineal Normal Clsico
ANE-O. MODELO DE RE,RESIN E-PRESADO EN DESVIACIONES
CON RESPECTO A LA MEDIA.
Ena es$eci,icacin al#erna#i0a al modelo, s)$oniendo 1)e e?is#e #5rmino
inde$endien#e, consis#e en e?$resar las o.ser0aciones en des0iaciones con res$ec#o a
la media' -n es#e caso se a$licaran las sig)ien#es ,rm)las:
-s#imacin de los $arme#ros del modelo:
1
]
1

2
1
.
.
.
( )
.
'
.
.
< = = = .
>
C
2
C
D
C 2
1
C 2
D
C 2 2

,
_

A A C C 2 2 1
= . = . = . < .
ma#rices a )#ili6ar:
( )

,
_

,
_

CAi Ci
i C C Ci
i 2 C Ci
C
D
C 2
2
CAi CAi i C C CAi i 2 C
CAi i C C
2
i C C i C C i C C
CAi i 2 C i C C i 2 C
2
i 2 C
C 2
D
C 2
? <
? <
? <
< =
? ? ? ? ?
? ? ? ? ?
? ? ? ? ?
= =

donde / /i C/i
= = =
/B1,2,''', >'
8)mas de c)adrados:



n
1 i
2
n
1 i
2
y ) < < ( 8C4
C
D
C 2
D
2
< = . 8C-
Con#ras#e de "i$#esis $ara la signi,icacin glo.al
Ri$#esis n)la:
0 ... :
3 2 0

K
H
-s#ads#ico e?$erimen#al:
( )
( ) ( )
> n
8CR
1 >
8C-
> n
8CR
1
< = .
> n
8CR
1
. = = .
> n
8CR
1
. = = .
N
C
D
C 2
D
2 2 C 2
D
C 2
D
2
2
1
1
C 2
D
C 2
D
2
e?$

1
]
1

-s#ads#ico #erico:
( ) , > n , 1 > N N
#co
;rediccin
;redic#or $)n#)al:
2
'
2 3 3 2 2
...

b X Y x b x b x b Y Y
Cf Kf K f f f
+ + + + +

13
Modelo de Regresin Lineal Normal Clsico
:n#er0alo de $rediccin $ara )n 0alor indi0id)al
( )

,
_

+ +

C, 2
1
C 2
D
C 2
D
C, 2 > n , <
= = = =
n
1
1 8 # <
H
: :C
,

:n#er0alo de $rediccin, $ara )n 0alor medio o es$erado
( )
( )

,
_

+

C, 2
1
C 2
D
C 2
D
C, 2 > n , < -
= = = =
n
1
8 # <
H
: :C
,

donde:
[ ]
fK f f Cf
x x x X ...
3 2
'
2

y donde: 2 2 2
X X x
f f

14