Econometría básica Modelo 1

Lineal General

CAPITULO 4
MODELO LINEAL GENERAL

4.1 ESPECIFICACION

Consideremos la siguiente relación funcional entre una variable dependiente y k-1

variables independientes,

Yi  f ( X 2 i , X 3i ,..., X Ki )

Suponiendo que estas variables se relacionan linealmente entonces se tiene el

siguiente modelo econométrico que los relaciona,

Yi   1   2 X 2i   3 X 3i   k X ki   i

En dicha relación se incluye un término de perturbación,  i , ya que

empíricamente es imposible que la relación propuesta sea una relación exacta para
cada observación. Si además, disponemos de “n” observaciones para cada
variable, el modelo propuesto se puede escribir como,

Y1   1   2 X 21   3 X 31   k X k 1   i
Y2   1   2 X 22   3 X 32   k X k 2   2
.
.
.
Yn   1   2 X 2 n   3 X 3n   k X kn   n

O alternativamente,
Econometría básica Modelo 2
Lineal General
Y1  1 X 21 X 31 . . . X k 1    1   1 
Y  1 X X 32 . . . X k 2    2    2 
 2  22

 .  . . . . . . .  .   . 
      
 .  . . . . . . .  .   . 
 .  . . . . . . .  .   . 
      
Yn  1 X 2 n X 3n . . . X kn    k    n 

Por tanto, el modelo en forma resumida matricialmente corresponde a,

Y = X B + U [4.1]
(nx1) (nxk) (kx1) (nx1)

Además de lo supuesto, respecto de la existencia de una relación lineal entre las

variables involucradas, por las consideraciones anotadas en capítulos precedentes,
se requiere establecer algunos otros supuestos respecto ahora de la variable
aleatoria,  i , los cuales matricialmente corresponden a los siguientes,

 E (  1 )  0 
 E (  )  0 
 2   
 .  .
E (U )    0 [4.2]
 .  .
 .  .
   
 E (  n ) 0

 1 
 
 2
 . 
E (U U )  E  1 2 . . . n  
 . 
 . 
 
  n 

 E (  12 ) E ( 1  2 ) . . . E ( 1  n ) 
 
 E (  2 1 ) E (  22 ) . . . E (  2  n )
 . . . . . . 
E (U ' U )   
 . . . . . . 
 . . . . . . 
 
 E (  n 1 ) E ( n  2 ) . . . E (  n2 ) 
Econometría básica Modelo 3
Lineal General
 u2 0 . . . 0 1 0 . . . 0 
  0 1 . . . 0 
0  u2 . . . 0  
 . . . . . .   . . . . . . 
E (U 'U )    u   u I
2 2

 . . . . . .  . . . . . .
 . . . . . .  . . . . . .
   
 0 0 . . .  u 
2
0 0 . . . 1
[4.3]

c) Las variables X ij (i= 1, 2, 3, …, n) (j=2, 3, …, k), son no aleatorias y por

tanto fijas.
d) La matriz X ' X son de rango pleno, de forma que X ' X  0
e) El vector U ~ N( 0,  u2I)
[4.4]
4.2 ESTIMACION

4.2.1 Estimadores de los parámetros j

Habiendo definido nuestro modelo y planteado nuestros supuestos, el siguiente

paso consiste en estimar los parámetros j. Siendo el modelo estimado,

Yˆ = X B̂
[4.5]
(nx1) (nxk) (kx1)

Entonces,

Y X B̂ + e
=
[4.6]
(nx1) (nxk) (kx1) (nx1)

Donde, e corresponde al vector de los errores observables.

Para estimar B̂ utilizaremos el método de mínimos cuadrados ordinarios.

4.2.2 Estimadores Mínimo Cuadráticos

Siguiendo el criterio de este método el objetivo es minimizar la ei2 . Para tal

efecto, se tiene más de un parámetro estimado de decisión.

De [4.6] se obtiene que,

e  Y  XBˆ [4.7]

De modo que,
Econometría básica Modelo 4
Lineal General

e
i 1
2
i  e' e  (Y  XBˆ )' (Y  XBˆ )
n

e
i 1
2
i  e' e  Y ' Y  Y ' XBˆ  Bˆ ' X ' Y  Bˆ ' X ' XBˆ
n

e
i 1
2
i  e' e  Y ' Y  2 Bˆ ' X ' Y  Bˆ ' X ' XBˆ

Por la condición de primer orden de optimización se tiene,

[e' e]
 2 X ' Y  2 X ' XBˆ  0
Bˆ

De donde,

Bˆ  ( X ' X ) 1 X ' Y [4.8]

4.2.3 Matriz de Varianza y Covarianza

Por definición, la matriz de varianzas y covarianzas matricialmente corresponde a,

 ˆ1  1 
ˆ 
 2  2 
 
 ˆ1   1 ˆ 2   2 . . . ˆ k   k 
.
VAR  COV ( Bˆ )  E ( Bˆ  B )( Bˆ  B )'  E 
 . 
 . 
 
 ˆ k   k 

 E ( ˆ1   1 ) 2 E ( ˆ1   1 )( ˆ 2   2 ) . . . E ( ˆ1   1 )( ˆ k   k ) 

 ˆ ˆ 
 E (  2   2 )(  1   1 ) E ( ˆ 2   2 ) 2 . . . E ( ˆ 2   2 )( ˆ k   k )
 . . . . . . 
 
 . . . . . . 
 . . . . . . 
 
 E ( ˆ n   n )( ˆ1   1 ) E ( ˆ n   n )( ˆ 2   2 ) . . . E ( ˆ k   k ) 2 

Reemplazando [4.1] en [4.8] se tiene,

Bˆ  ( X ' X ) 1 X ' [ XB  U ]
Bˆ  ( X ' X ) 1 X ' XB  ( X ' X ) 1 X ' U
Bˆ  B  ( X ' X ) 1 X ' U
[4.9]
Econometría básica Modelo 5
Lineal General

De donde,

Bˆ  B  ( X ' X ) 1 X ' U

Entonces,

VAR  COV ( Bˆ )  E ( Bˆ  B)( Bˆ  B)'  E[( X ' X ) 1 X ' U ][( X ' X ) 1 X ' U ]'
VAR  COV ( Bˆ )  E[( X ' X ) 1 X ' UU ' X ( X ' X ) 1 ]
VAR  COV ( Bˆ )  ( X ' X ) 1 X ' E (UU ' ) X ( X ' X ) 1
VAR  COV ( Bˆ )  ( X ' X ) 1 X '  u2 IX ( X ' X ) 1
VAR  COV ( Bˆ )   u2 ( X ' X ) 1
[4.10]

4.2.4 Estimador de la varianza de las perturbaciones

De [4.7] y considerando [4.1] y [4.8] se tiene,

e  Y  XBˆ
e  XB  U  X [( X ' X ) 1 X ' Y ]
e  XB  U  X [( X ' X ) 1 X ' ( XB  U )]
e  XB  U  XB  X ( X ' X ) 1 X ' U
e  U  X ( X ' X ) 1 X ' U
e  [ I n  X ( X ' X ) 1 X ' ]U

Si hacemos que,

A  [ I n  X ( X ' X ) 1 X ' ]

Luego,

e' e  U ' A' AU

e' e  U ' AU

Ahora calculado el valor esperado se tiene,

E (e' e)  E (U ' AU )
 a11 a12 a13 ... a1n   1 
a a 22 a 23 ... a 2 n    2 
 21
E (e ' e )  E   1 2 3 ...  n   a 31 a 32 a 33 ... a 3n    3 
  
 . . . ... .  . 
 a n1 an2 a n3 ... a nn    n 
Econometría básica Modelo 6
Lineal General
 1 
 
 2

E (e' e)  E   i a i1  a i i2  a i i3 
...   i a in   3 
 
 . 
  n 


E (e' e)  E 1   i a i1  2   i ai 2  3   i ai3 ...  n   i a in 
E (e' e)  a11 E (  12 )  a 22 E (  22 )  a 33 E (  32 )  ...  a nn E (  n2 )

E (e' e)  a11 u2  a 22 u2  a33 u2  ...  a nn u2

E (e' e)   u2 [a11  a 22  a 33  ...  a nn ]
E (e' e)   u2 Tr ( A)

E (e' e)   u2Tr [ I n  X ( X ' X ) 1 X ' ]

E (e' e)   u2 [Tr ( I n )  Tr ( X ' X )( X ' X ) 1 ]
E (e' e)   u2 [n  k ]

Por tanto:

 e' e 
ˆ u2  
 n  k 

4.2.5 Propiedades de los estimadores mínimo cuadráticos

En capítulos anteriores, se ha mostrado que los estimadores mínimo cuadráticos

tienen tres propiedades básicas, los cuales matricialmente corresponden a las
siguientes:

a) Son funciones lineales de las observaciones reales de la variable endógena

De [4.8],

Bˆ  ( X ' X ) 1 X ' Y

Esta se puede escribir alternativamente como,

Bˆ  CY

Donde:
Econometría básica Modelo 7
Lineal General
C  ( X ' X ) 1 X '

Nótese que el vector columna B̂ depende del vector columna Y cuyos

elementos son Y1, Y2, Y3, …, Yn.

b) Son insesgados

Nuevamente como,

Bˆ  ( X ' X ) 1 X ' Y

Reemplazando [4.1] nuevamente se tiene,

Bˆ  ( X ' X ) 1 X ' ( XB  U )
Bˆ  ( X ' X ) 1 X ' XB  ( X ' X ) 1 X ' U
Bˆ  B  ( X ' X ) 1 X ' U

Por tanto su valor esperado es,

E ( Bˆ )  E[ B  ( X ' X ) 1 X ' U ]
E ( Bˆ )  B  ( X ' X ) 1 X ' E (U )
E(B ˆ)  B

c) Tiene varianza mínima

Consideremos el siguiente estimador lineal alternativo,

Bˆ  DY
Bˆ  D ( XB  U )
Bˆ  DXB  DU
E ( Bˆ )  DXB  DE (U )
E ( Bˆ )  B

El cual es insesgado solo si se cumple que,

DX  I k

Además, considerando que,

Bˆ  B  DU
Bˆ  B  DU
Var ( Bˆ )  E ( Bˆ  B)( Bˆ  B)'  DUU ' D'
Var ( Bˆ )  DE (UU ' )
Econometría básica Modelo 8
Lineal General
Siendo,

E (UU ' )   u2 I n

Entonces,

Var ( Bˆ )  DD ' u2

Esta varianza será mínima sí en la siguiente función de Lagrange,

L  DD' u2   ( DX  I k )

Se cumple que,

L
 D'  u2  X  0
D
L
 DX  I k  0


De donde,

D'  u2  X

D X'
 u2

DX  I k  X'X
 u2
I k ( X ' X ) 1 u2   ( X ' X )( X ' X ) 1
( X ' X ) 1  u2  I K
1
D  2 I k X '
u
D  ( X ' X ) 1 X '

Como, el estimador alternativo es,

Bˆ  DY
Bˆ  ( X ' X ) 1 X ' Y

Cuya varianza corresponde a,

Var ( Bˆ )  DD'  u2
Var ( Bˆ )  ( X ' X ) 1 X ' X ( X ' X ) 1 2 u

Var ( Bˆ )  ( X ' X ) 
1 2
u
Econometría básica Modelo 9
Lineal General
Por tanto, se concluye que el estimador alternativo, cuya varianza es mínima,
solo puede corresponder al obtenido por el método de mínimos cuadrados
ordinarios.

4.3 MATRIZ DE CORRELACION, COEFICIENTES DE REGRESION Y

COEFICIENTES DE CORRELACION PARCIAL

Si calculamos todas las correlaciones simples (de orden cero) entre las variables,
Yi , X 2i , X 3i , …, X ki y la disponemos en forma matricial, obtenemos lo que
denominaremos la matriz de coeficientes de correlación:

 r11 r12 . . . r1k   r11 r21 . . . rk 1 

r r22 . . . r2 k   r12 r22 . . . rk 2 
 21
 . . . . . .   . . . . . . 
  
 . . . . . .   . . . . . . 
 . . . . . .   . . . . . . 
   
 rk 1 rk 2 . . . rkk  r1k r2 k . . . rkk 

El objetivo de esta sección es mostrar que todos los coeficientes de regresión y los
coeficientes de correlación parcial pueden expresarse en función de los cofactores
de esta matriz de correlación.

La regresión minimocuadrática en términos de desviación es,

yˆ i  ˆ 2 x 2i  ˆ3 x3i  ...  ˆ k x ki

Donde los ̂ i se obtienen minimizando e i

2
el cual nos proporciona las
siguientes ecuaciones normales,

y x i 2i  ˆ 2  x 22i  ˆ3  x 2i x3i  ...  ˆ k  x 2 i x ki

y x i 3i  ˆ 2  x3i x 2i  ˆ3  x32i  ...  ˆ k  x3i x ki
.
.
.
y x i ki  ˆ 2  x ki x 2i  ˆ3  x ki x3i  ...  ˆ k  x ki2

Este sistema también puede escribirse como,

S1 r21  ˆ 2 S 2 r22  ˆ3 S 3 r23  ...  ˆ k S k r2 k

S1 r31  ˆ 2 S 2 r32  ˆ3 S 3 r33  ...  ˆ k S k r3k
.
.
Econometría básica Modelo 10
Lineal General
.
S1 rk1  ˆ 2 S 2 rk 2  ˆ3 S 3 rk 3  ...  ˆ k S k rkk

Según la regla de Cramer, despejando ̂ 2 obtenemos,

S 
ˆ 2   1 12
S 2 11

Donde:

r21 r23 . . . r2 k
r31 r33 . . . r3 k
. . . . . .
12 
. . . . . .
. . . . . .
rk 1 rk 3 . . . rkk

r22 r23 . . . r2 k
r32 r33 . . . r3k
. . . . . .
11 
. . . . . .
. . . . . .
rk 2 rk 3 . . . rkk

Es decir,  ij representa el cofactor de rij en la matriz  . Luego en general

tenemos que,

S1 1i
i  
S i 11

Por tanto siendo,

yˆ i  ˆ 2 x 2i  ˆ3 x3i  ...  ˆ k x ki

Entonces:

11   
yˆ i  12 x 2 i  13 x3i  ...  1k x ki  0
S1 S2 S3 Sk

Del mismo modo siendo,

Econometría básica Modelo 11
Lineal General
e 2
i   ( y i  yˆ i ) 2

Tenemos,

S1 12 S  S 
 e  ( y
2
i i 
S 2 11
x 2  1 13 x3  ...  1 1k x k ) 2
S 3 11 S k 11

Suponiendo que el modelo corresponde a dos variables la anterior relación se

reduce a,

S1 12
 e  ( y
2
i i 
S 2 11
x 2i ) 2

S12 12
2
S 
 ei2  ( yi2  S 2 11
2 2
x 22i  2 y i x 2i 1 12 )
S 2 11
S12 122 S1 12
 ei2  yi2  S 22 112
x 2
2i 2
S 2 11
y x
i 2i

12
2

 e nS  nS  2 r22  2nS12 12 r12
2
i 1
2
1
2

11 11

nS12  11
2
 12
2
 1112 r12 
 ei2  11 

11



Siendo,

11  r22
12   r21   r12

nS12  r222  r212  2r22 r12 r21 

e  
2
i 
r22

11  

considerando además que,

  r11 r22  r122

El cual constituye el determinante de la matriz de correlación, finalmente se

obtiene,

nS12 
 ei2  11

Esto nos permite una expresión alternativa para el coeficiente de determinación

que por definición es,
Econometría básica Modelo 12
Lineal General

R12.23...k  1 
e 2
i

y 2
i

Por tanto,


R12.23...k  1 
11

Si se tiene tres variables es posible relacionarlas en términos de regresiones del

siguiente modo,

yˆ i  ˆ12.3 x 2 i  ˆ13.2 x3i

xˆ 2i  ˆ 21.3 y i  ˆ 23.1 x3i
x3i  ˆ31.2 yi  ˆ32.1 x2i

O alternativamente como,

S1 12 S 
yˆ i   x 2i  1 13 x3i
S 2 11 S 3 11

S 2  21 S 
xˆ 2i   y i  2 23 x3i
S1  22 S 3  22

S 3  31 S 
xˆ 3i   y i  1 32 x 2i
S1  33 S 2  33

Además, dada la naturaleza lineal de las relaciones consideradas se tiene que,

.3 = ̂ 12.3  21.3
2
R12 ˆ
.1 = ̂ 23.1 ̂ 32.1
2
R23

Por tanto,

 S   S    221
R122 .3   1 12   2 21   .
 S 2 11   S1  22  11 22

 S   S    322
R232 .1   2 23   3 32   .
 S 3  22   S 2  33   22  33

4.4 INFERENCIA ESTADISTICA

4.4.1 La prueba “t”
Econometría básica Modelo 13
Lineal General

Si nuestro propósito es probar que algún parámetro es igual a un valor

(generalmente cero) partimos de las siguientes consideraciones,

De [4.9] se tiene que,

Bˆ  B  ( X ' X ) 1 X ' U

Y siendo por [4.3] que,

U ~ N ( 0,  u2 I n )

Entonces,

Bˆ ~ N [ B, ( X ' X ) 1 u2 ]

de modo que,

Bˆ  B
~ N (0,1)
 u2 ( X ' X ) 1

Siendo,

e' e
~  n2 k
 u2

Por tanto,

Bˆ  B
 u2 ( X ' X ) 1
~ t nk
e' e
 u (n  k )
2

Esta última expresión sólo es cierto si el numerador es independiente del

denominador.

La independencia implica,

Bˆ  B e' e
E[( )( )]  0
 u2 ( X ' X ) 1  (N  K )
2
u

Por tanto:
Econometría básica Modelo 14
Lineal General
Bˆ  B
 ( X ' X ) 1
2
u
~ t nk
e' e
 u2 (n  k )

Simplificando,

Bˆ  B
( X ' X ) 1
~ t nk
e' e
(n  k )

Bˆ  B
~ t nk
e' e 1
(X ' X )
nk

Luego para los elementos del vector B̂ la prueba “t” se puede escribir,
ˆi   i
t ˆ 
i
e' e
aii
nk

donde a ii es el elemento de la fila “i”, columna “i” de la matriz ( X ' X ) 1

4.4.2 La prueba F

Si nuestro propósito es probar que todos los parámetros son iguales a un valor
(generalmente cero) partimos de la siguiente relación,

Y  XB  U
U  Y  XB

De donde:

U ' U  (Y  XB )' (Y  XB )
ˆ )  ( XB  XB
U ' U  [(Y  XB ˆ )]' [(Y  XB
ˆ )  ( XB  XBˆ )]
U ' U  [(Y  XBˆ )'( XB  XB
ˆ )' ][(Y  XBˆ )  ( XB  XBˆ )]
U ' U  [(Y  XB ˆ )'( B  B
ˆ )' X ' ][(Y  XB ˆ )  X (B  B ˆ )]
U ' U  (Y  XBˆ )' (Y  XBˆ )  (Y  XB ˆ )' X ( B  B
ˆ )  (B  B ˆ )' X ' (Y  XB ˆ )  (B  B
ˆ )' X ' X ( B  B
ˆ)
U ' U  (Y  XBˆ )' (Y  XBˆ )  2( B  Bˆ )' X ' (Y  XB ˆ )  (B  B ˆ )' X ' X ( B  Bˆ)
U ' U  (Y  XBˆ )' (Y  XBˆ )  2[( B  Bˆ )' X ' Y  ( B  Bˆ )' X ' XB ˆ ]  (B  B
ˆ )' X ' X ( B  B
ˆ)
U ' U  (Y  XBˆ )' (Y  XBˆ )  2[( B  Bˆ )' X ' Y  ( B  Bˆ )' X ' X ( X ' X ) X ' Y ]  ( B  Bˆ )' X ' X ( B  Bˆ )
1

ˆ )' (Y  XB
U ' U  (Y  XB ˆ )  2[( B  Bˆ )' X ' Y  ( B  B
ˆ )' X ' Y ]  ( B  B
ˆ )' X ' X ( B  B
ˆ)
ˆ )' (Y  XB
U ' U  (Y  XB ˆ )  (B  Bˆ )' X ' X ( B  Bˆ)
Econometría básica Modelo 15
Lineal General
Es decir, la suma de los errores teóricos se ha descompuesto en la suma de los
errores muestrales y la suma de los cuadrados debido a la regresión.

Siendo,

B0

Se obtiene la descomposición de la varianza,

Y ' Y  e' e  Bˆ ' X ' Y

Y ' Y  e' e  Yˆ ' Yˆ

Ahora, considerando que,

ˆ )' (Y  XB
E (U ' U )  E[(Y  XB ˆ )]  E[( B  B
ˆ )' X ' X ( B  B
ˆ )]
E (U ' U )  (n  k ) U2  E{[( X ' X ) 1 X ' U ]' X ' X ( X ' X ) 1 X ' U }
E (U ' U )  (n  k ) U2  E{[( X ' X ) 1 X ' U ]' X ' U }
E (U ' U )  (n  k ) U2  E[U ' X ( X ' X ) 1 X ' U ]
E (U ' U )  ( n  k ) U2   U2 Tr [ X ( X ' X ) 1 X ' ]
E (U ' U )  ( n  k ) U2   U2 Tr [( X ' X ) 1 X ' X ]
E (U ' U )  (n  k ) U2   U2 TrI k 1
E (U ' U )  (n  k ) U2  (k  1) U2
E (U ' U )  ( n  1) U2

Es decir,

E (e' e)  E ( ei2 )  (n  k ) U2
E ( B ' X ' Y )  E ( yˆ i2 )  (k  1) U2
E (Y ' Y )  E ( y i2 ) (n  1) U2

4.5 PREDICCION

La regresión múltiple estimada en forma escalar se puede escribir como:

Yˆi  ˆ1  ˆ 2 X 2i  ˆ 3 X 3i  ...  ˆ k X ki

O alternativamente en forma matricial se puede escribir como:

Yˆi  xi' Bˆ

Donde:

x i'  1 X 2i X 3i ... X ki 
Econometría básica Modelo 16
Lineal General
Es evidente que la predicción media de Yi es aquella que corresponde a un xi'
dado. Sí el vector de valores de las variables X fuera, x0' , la predicción media
sería:

(Yˆi / x 0' )  x 0' Bˆ

Donde:

x 0'  1 X 20 X 30 ... X k0 

Esta predicción, es una predicción insesgada de E (Yi / x 0' ) , puesto que,

E ( x 0' Bˆ )  x 0' B