Demostraciones Econometria PDF

Luis Carlos Carvajal Osorio – Final Econometría 1 1
Generalidades de la econometría
La econometría es una rama de la economía que consiste en la creación de modelos para estimar
métodos que permitan explicar fenómenos económicos.
Hay cinco elementos fundamentales en un modelo:
 Parámetros: Parte de la ecuación que se pretende estimar (ejemplo: los β)

 Perturbaciones estocásticas: Parte no estimable del modelo, que se explica por el azar.
 Ecuaciones: Forma funcional del modelo
 Datos: Conjunto de valores que servirán para la estimación
 Variables: Criterio bajo el cual se agrupan los datos y cuya relación será el fin último del
modelo (ejemplo: precios, cantidades, distancias…). Según su función dentro del modelo
podrán ser endógenas (variable que se pretende explicar) o exógenas (variable que está
dada desde el principio y será contribuyente a la explicación de la variable endógena)
Los datos se pueden clasificar en:
 Corte transversal o cross – section: Datos de múltiples individuos en un mismo momento

del tiempo.
 Series de tiempo: Datos de un solo individuo a lo largo de diferentes momentos
 Datos de panel: Datos de múltiples individuos a lo largo de varios momentos en el tiempo.
 Georreferenciados: Datos organizados según su ubicación espacial.
Para crear un modelo hay diferentes pasos, a saber:
1. Especificación: Se definen las variables exógenas y endógenas, así como se formulan los
supuestos y los objetivos
2. Estimación: Se hacen los estudios y se realizan pruebas sobre los datos
3. Validación: Se revisa el modelo y se corroboran los supuestos
4. Pronóstico – Simulación: Se hacen predicciones en base a lo estimado en el modelo.
5. Análisis: Se interpretan los resultados y se confrontan con la teoría.
Los modelos pueden clasificarse según diferentes aspectos, tal y como se resume en la siguiente
tabla.
Criterio de clasificación Categoría 1 Categoría 2

Manejo del tiempo Estático Dinámico
Número de ecuaciones Uniecuacional Multiecuacional
Forma de las funciones Lineal No lineal
Rezago de los datos Interdependiente Recursivo
Generalidades del modelo de mínimos cuadrados ordinarios (MCO)

El modelo de Mínimos Cuadrados Ordinarios (MCO) es un modelo de estimación lineal de una sola
ecuación, en el que una variable estará en función de diferentes variables exógenas y de una
perturbación estocástica. Lo que el modelo busca es crear una función que se acerque tanto a los
datos reales como sea posible, de forma que pueda reducir al mínimo el cuadrado de las
perturbaciones estocásticas. El cuadrado es necesario pues los errores positivos y negativos se
contrarrestan.
Matemáticamente, esto se representa así:
Yi  β0  β1X1i  β2X2i  ...  βk Xki  μ i
Para un modelo de una variable, de la forma Yi  β0  β1Xi  μ i se puede hacer una

representación gráfica. La línea es el resultado del modelo, los puntos son los datos y el espacio
entre cada punto y la línea son las perturbaciones estocásticas.
Para hallar la forma funcional de esta línea es necesario aclarar cuáles son los β. Primero se hará
una explicación para el modelo de dos β y luego se generalizará para n β.
Demostración 1: ¿De dónde salen β0 y β1 en el modelo lineal simple

de MCO?
Esta demostración estará enfocada en hallar en la ecuación Yi  β0  β1Xi  μ i las variables β0 y
β1. Queremos minimizar la suma de todos los μ al cuadrado. Si despejamos μ obtenemos
μ i  Yi  β 0  β1 X i Luego la función objetivo será

N N
ArgMín S  ArgMín  μ i  ArgMín  (Yi  β0  β1X i )2
2
β 0β1 β 0β1 i1 β 0β 1 i1

Para minimizar, derivamos con respecto a β 0 e igualamos a 0. El -2 pasa a dividir, de forma que se
elimina. Luego se reparte la sumatoria
S N
 2 (Yi  β 0  β1X i )  0
β 0 i 1
N
 (Y  βˆ
i 1
i 0  βˆ 1X i )  0
N N N
 Yi   βˆ 0   βˆ 1X i  0
i 1 i 1 i 1
Queremos despejar β̂ 0 . Para ello, recordemos que la suma de una constante desde 1 hasta N es
multiplicar dicha constante por N. Dicho esto, tenemos:
N N N
 Y  βˆ  Y   βˆ
i 1
i 1
i 1
i
i 1
0
N N
 Yi  βˆ 1  Yi  Nβˆ 0
i 1 i 1
N N
 Yi Y i
i1
 βˆ 1 i 1
 βˆ 0
N N
Por último, la definición de media de una variable nos dice que ésta se halla sumando todos los
valores y dividiendo por el número de datos. Entonces
βˆ 0  Y  βˆ 1 X
Ahora derivaremos respecto a β 1 . Atención a la regla de la cadena. El -2 pasa a dividir y

repartimos la sumatoria (distribuyendo la X)
S N
 2 (Yi  β 0  β1X i )(Xi )  0
β1 i 1
N
 (Y  βˆ
i 1
i 0  βˆ 1X i )(Xi )  0
N N N
 YiXi  βˆ 0  Xi  βˆ 1  Xi  0
2
i 1 i 1 i 1
Según lo que recién hallamos, reemplazamos β̂ 0 . Distribuimos y agrupamos.

N N N
 YiX i  (Y  βˆ 1 X) Xi  βˆ 1  Xi  0
2
i 1 i 1 i 1
N N N N
 YiX i  Y  X i  βˆ 1 X  X i  βˆ 1  Xi  0
2
i 1 i 1 i1 i 1
N N N N
 Y X  Y  X  βˆ (X  X   X )0
2
i i i 1 i i
i 1 i 1 i 1 i 1
Despejando β̂ 1
N N
Y  X i   Yi X i
β̂1  i1
N
i1
N
X Xi   Xi
2
i1 i1
N N
Cambiamos de signos y sumando y restando por X  Yi en el numerador y por X  X i obtenemos
i 1 i 1
N N
 YiXi  Y  Xi
βˆ 1  i 1
N
i 1
N
X  X  Xi
2
i
i1 i1
N N N N
 YX  Y X  X Y  X Y
i i i i i
βˆ 1  i1
N
i1
N
i 1
N
i1
N
X  X  Xi  X  Xi  X  Xi
2
i
i 1 i1 i1 i1
Luego, factorizamos
 (Y  Y)(X  X)
i i
β̂1  i1
N
 (X  X)
i1
i
2
Dividimos por N-1
 (Y  Y)(X  X)
i1
i i
βˆ 1  N1
N
 (X  X)
i1
i
2
N1
Por definiciones de varianza y covarianza, llegamos a
ˆβ  Cov(Yi , X i )
1
Var(X i )
Pero estas fórmulas son sólo válidas para el modelo de un solo regresor. Deberemos abordar un
enfoque matricial para generalizar esto para más de un regresor.
Demostración 2: ¿Cómo hallar los β en el modelo general de MCO?
En este caso nos ocupa la función
Yi  β 0  β1 X 1i  β2 X 2i  ...  βk X ki  μ i
Despejando μ
μ i  Yi  β0  β1X1i  β2X2i  ...  βk Xki  μ i
Nuestra función objetivo ahora será
N N
ArgMín S  ArgMín  μ i  ArgMín  (Yi  β 0  β 1 X 1i  β 2 X 2i  ...  β k X ki  μ i )2
2
β β i1 β i1
Expresemos la función matricialmente. Y es un vector N x 1 que contiene todos los valores de la

variable independiente. X es una matriz N x K (o N x (K+1), si empezamos a contar los regresores
de 0 hasta K) donde cada fila representará un individuo y cada columna el valor de cada variable
explicativa. El vector β representa los valores de los K (o K+1) parámetros. La idea es despejar este
vector. Por último, el vector μ es el vector de perturbaciones estocásticas. Este será el vector a
minimizar.
Y  xβ  μ
μ  Y - xβ
μ 1   Y1   1 X 11 X 21 ... X k1  β 0 
μ  Y    β 
 2    2    1 X 12 X 22 ... X k2   1
 ...   ...  ... ... ... ... ...   ... 
       
μ N  Nx1 YN  Nx1  1 X 1N X 2N ... X kN  Nx(k1) βk  (k1)x1
μ 1   Y1  β 0  β1X 11  β2 X 21 ...  βk X k1 
μ  Y    β1X 12  β2 X 22 ...  βk X k2 
 2    2   β 0
 ...   ...   ... ... ... ... ... 
     
μ N  Nx1 YN  Nx1 β1  β1X 1N  β2 X 2N ...  βk X kN  Nx1
μ 12   (Y1  β 0  β1X 11  β2 X 21  ...  βk X k1 )2 
 2  2
μ 2    (Y1  β 0  β1X 12  β2 X 22  ...  βk X k2 ) 
 ...   ... 
 2  2
μ N  Nx1 (Y1  β 0  β1X 1N  β2 X 2N  ...  βk X kN )  Nx1
Procedo a derivar con respecto a cada β e igualar a 0. La única derivada distinta a las demás es la
de β 0 . Las demás serán todas iguales, con la única diferencia en la X que distribuyo
N
ArgMín  (Yi  β 0  β1X 1i  β2 X 2i  ...  βk X ki  μ i )2
β i 1
S N
 2 (Yi  βˆ 0  βˆ 1X 1i  βˆ 2 X 2i  ...  βˆ k X ki )  0
β 0 i 1
S N
 2 (Yi  βˆ 0  βˆ 1X 1i  βˆ 2 X 2i  ...  βˆ k X ki )  0
β 0 i 1
S N N
 2 Yi  2 (βˆ 0  βˆ 1X 1i  βˆ 2 X 2i  ...  βˆ k X ki )  0
β 0 i 1 i 1
S N
 2 (Yi  βˆ 0  βˆ 1X 1i  βˆ 2 X 2i  ...  βˆ k X ki )(X1i )  0
β1 i 1
S N
 2 (YiX 1i  βˆ 0 X 1i  βˆ 1X 1i  βˆ 2 X 2iX 1i  ...  βˆ k X kiX 1i )  0
2
β1 i 1
S N N
 2 YiX 1i  2 (βˆ 0 X 1i  βˆ 1X 1i  βˆ 2 X 2iX 1i  ...  βˆ k X kiX 1i )  0
2
β1 i 1 i 1
Esta última expresión se divide en dos sumatorias. La primera es el producto de X e Y. La segunda

es el producto de los β estimados con el producto de X1 y las otras X. La primera parte es la
segunda fila de la matriz X’Y (para el caso de X1) y la segunda parte es la segunda fila de la matriz
X’Xβ. Cada fila representa la derivada respecto a cada parámetro (la tercera fila es para X2, la
cuarta es para X3, y así sucesivamente)
 N 
  Yi 
1 1 1 ... 1   Ni1 
 Y1   YX 

X X 12 X 13 ... X 1N 
 11 Y  i 1
i 1i


X Y  X 21 X 22 X 23 ... X 2N   2   N 
   ...   Yi X 2i 
 ... .... .... .... ...     i1 
YN
X k1 X k2 X k3 .... X kN  (k1)xN   Nx1
  ... 
N 
  Yi X ki 
 i1  (k1)x1
 N N N 
 X1i  X2i  Xki
 N i1 i1
...
i1

 1 1 1 ... 1  N N 2 N N 
X11 X12 X13 ... X1N 
1 X11 X21 ... Xk1    X1i  X1  X1iX2i ...  X1iXki 
1 ... Xk2  i1 i1 i1 i1 
X X  X21 X2N 
X12 X22
 N
 ...
X22 X23 ...
 ... ... ... ... ...   X2i N
 X1iX2i
N 2
 X2
N
...  X2iXki 

.... .... .... ...
 1 ...XkN  i1 
 X1N X2N  Nx(k 1) i1 i1 i1
 Xk1 Xk2 Xk3 .... XkN 
(k 1)xN  ... .... .... .... ... 
 N
X
N N
 X1iXki  X2iXki ....  Xki 
N 2
i1 ki i1 i1 i1 
 N N
 X 1i
N
 X 2i  X ki 
N
...  N N N


N
i 1
N N
i 1
N
i 1
 β    β 0   β X
1 1i  ...   β k X ki 
i X 1i X
2
 X 1i X 2i ...  X 1i X ki   0   N i 1 i 1
N
i 1
N 
 
1
  0 1i  1 1i 
1 i 1 i 1 i 1
β  
2
 
X Xβˆ   N N N N  1 β X β X ... β X X
k 1i ki

  X 2i  X 1i X 2i  X2
2
...  X 2i X ki   ...  i 1 i 1 i 1
i1 i 1 i 1 i 1    ... 
 N ... .... .... .... ...  βk  N N N 
        k ki 
2
N N N (k 1)x1 β X β X X ... β X
  X ki  X 1i X ki  X 2i X ki ....  X ki2  
0 ki 1 1i ki
 (k  1)x1
i1 
i 1 i 1 i 1
i 1 i 1 i 1
Lo único que falta es multiplicar por los escalares. Así, obtenemos que
S
 2XY  2XXβˆ
β
S
Ahora,  2X Y  2X Xβˆ  0
β
Despejemos β̂
2X Xβˆ  2X Y
X Xβˆ  X Y
Para obtener β̂ sola, nos “estorba” X’X. Como estas son matrices, no se pueden pasar a dividir. Por
eso, multiplicamos por su inversa (este es el equivalente a pasar a dividir en álgebra lineal). Así
llegamos a
(X X) 1 X Xβˆ  (X X) 1 X Y

Iβˆ  (X X) 1 X Y
La matriz identidad multiplicada por cualquier matriz da como resultado dicha matriz. Así
βˆ  (XX)1 XY
Ahora demostraremos algunas propiedades derivadas de este resultado. Antes de esto, conviene
indicar que toda variable con ^ es estimada. Ŷi Es el valor estimado de Y. Además, el residual se
define como la diferencia entre el valor estimado y el valor real de Y. Esto es μˆ i  Yi  Yî .
Demostración 3: El hiperplano de regresión pasa por el punto de

medias
El enunciado anterior básicamente significa que el promedio de la variable endógena debe ser el
mismo que el promedio del estimado de dicha variable.
Partimos de XXβˆ  XY
En matrices, esto es:
 N 
 N N N
   Yi 
  β 0   β1X 1i  ...   βk X ki   Ni1 
 YX 

 N i 1 i1 i1

N
 β X  β X  ...  β X X 
N i 1i

  
2 i 1
0 1i 1 1i k 1i ki
  N 

i 1 i 1
...
i 1
 

 Yi 2i 
X

N N N  i  1
  β 0 X ki   β1X 1iX ki  ...   βk X ki 

2  ... 
 i 1  (k1)x1  N

  YiX ki 
i 1 i 1
 i 1  (k1)x1
N N N N
Si tomamos la primera fila tenemos que  β0   β1X1i  ...  βk Xki   Yi
i1 i1 i1 i1
Dividamos todo por N, para obtener los promedios.
N N N N
β 0 β X 1 1i β X k ki Y i
i1
 i1
 i1
 i1
N N N N
βˆ 0 βˆ 1 X1 βˆ 2 X2  ... βˆ k Xk  Y
La expresión de la izquierda es el promedio de todas las variables exógenas. Esto es lo mismo que
el promedio de Ŷ . De ahí concluimos que Yˆ  Y
Demostración 4: La suma de residuales de los estimadores mínimos

cuadráticos es 0
N N N
La definición de residual es μˆ i  Yi  Yî . Entonces la suma de residuales será  μˆ i   Yi   Yî
i1 i1 i1
N N N
 μˆ  Y  Yˆ
i i i
Si dividimos esta expresión por N, obtenemos i1
 i1
 i1
. Por definición esto será
N N N
μˆ i  Yi  Yî . Pero Yˆ  Y , por tanto μˆ i  Yi  Yî  0 . Esto implica dos cosas. La primera es que la
suma de residuales es 0. Además el valor medio (el valor esperado) de los residuales es cero.
Demostración 5: Los momentos de segundo orden entre cada

regresor y los residuales es 0
Deseamos ver el resultado del producto matricial entre la matriz x transpuesta y la matriz de
residuales, es decir X μˆ . Según la definición de residual, podemos establecer que Xμˆ  X(Y  Yˆ )
Si distribuyo, tengo Xμˆ  XY  XYˆ . Pero Yˆ  Xβˆ , luego Xˆ

μ  XY  XXβ  0 , por la identidad
XXβˆ  XY
Demostración 6: Los momentos de segundo orden entre la

predicción y los residuales es 0
Ahora queremos demostrar que el producto entre la matriz de residuales y la matriz transpuesta
de predicciones es 0.
μ 1 
μ 
 
N
Esto es Yˆ μˆ  Yˆ1 Yˆ2 ... YˆN 1xN  2    Yîμˆ i . De acuerdo a la definición de Yˆ  Xβˆ
 ...  i1
 
μ N  Nx1
tenemos
N N
 Yîμˆ i   (βˆ 0  βˆ 1X1i  βˆ 2X2i  ...  βˆ k Xki )μˆ i

i1 i 1
N N
 Yîμˆ i  βˆ 0  μˆ i  βˆ 1  X1iμˆ i  βˆ 2  X2iμˆ i  ...  βˆ k  Xkiμˆ i

i1 i 1
La demostración anterior nos dice que cada uno de estos productos es 0. Además la suma de los
N
residuales es 0. Así:  Yˆ μˆ
i1
i i  0  0  0  0  0...  0  0
Coeficiente de determinación R2
El coeficiente de determinación R2 es una medida de bondad de ajuste lineal (es decir, busca
N
 (Yˆ  Yˆ )
i i
2
cuánto de la varianza muestral se define por la regresión). R2 está definido por R2  i 1

N
.
 (Y  Y )
i 1
i i
2
El modelo tiene mayor capacidad predictiva a medida de que el R2 se acerque a 1. El R va de 0 a 1. 2
Este coeficiente se puede expresar de otra forma.
Primero, redefinamos el denominador. El valor poblacional de Y es el valor estimado más la

perturbación estocástica. Además, Yˆ  Y Si reemplazamos estos valores, obtenemos:
N N N N
 (Yi  Yi )2   ((Yî  μ i )  Yî )2   (Yî  Yî  μ i )2   [(Yî  Yî )  μ i ]2

i1 i1 i1 i1
Resolvemos el trinomio y distribuimos
N N
 (Y  Y )   [(Yî  Yî )2  2μ i (Yî  Yî )  μ i ]

2 2
i i
i1 i1
N N N N
 (Yi  Yi )2   (Yî  Yî )2  2 μ i (Yî  Yî )   μ i

2
i1 i1 i1 i1

N N N N N
 (Yi  Yi )2   (Yî  Yî )2  2 μ i Yî  2Yî  μ i   μ i

2
i1 i1 i1 i1 i 1

Por propiedades ya demostradas, podemos eliminar los dos términos de la mitad, pues ambos son
iguales a 0
N N N
 (Yi  Yi )2   (Yî  Yî )2   μ i

2
i1 i1 i1
N  (Yˆ  Yˆ )
i i
2
Ahora dividamos todos por  (Y  Y ) i i

2
y despejemos R2  i 1
N
i 1
 (Y  Y )
i 1
i i
2
N N N
 (Yi  Yi )2  (Yî  Yî )2 μ

2
i
i1
N
 i1
N
 N
i1
 (Y  Y )
i1
i i
2
 (Y  Y )  (Y  Y )
i1
i i
2
i1
i i
2
N N N
 (Yi  Yi )2  μi  (Yˆ  Yˆ )
2 2
i i
i1
N
 N
i1
 i1
N
 (Y  Y )  (Y  Y )
i1
i i
2
i1
i i
2
 (Y  Y )
i1
i i
2
μ
2
i
R2  1  N
i1
 (Y  Y )
i1
i i
2
R2 también se puede definir en forma matricial. Definiremos la matriz M0 así
1
M0  I  ii
N
1 
1 
i 
...
 
1 
1 
1 
ii    1 1 ... 11xN

...
 
 1  1xN
1 1 ... 1 
1 1 ... 1 
ii  
...
... ... ...
 
1 1 ... 1  NxN
 1 1 1
 N  N ...  N 
 1 1 1
1 
 ii  N  ...  
N  N N
 ... ... ... ... 
 1  1 ...  1 
 N N N  NxN
 1 1 1
   ...  
1 0 ... 0 N N N
0  1 1
1 1 ... 0    
1
 
I  ii    N ...
N ... ... ... ...  N N 
   ... ... ... ... 
1  NxN  1
...  
0 0 ... 1 1
 
 N N N  NxN
 1 1 1 
1  N  N ...  
N
 1 1 1 
M0    N 1  N ...  
 N
 ... ... ... ... 
1 
1
... 1  
1
Esta es una matriz idempotente. Esto significa que al multiplicarse por sí misma da la misma
matriz.
En la diagonal queda el 1-1/N al cuadrado porque se “cruzan” al hacer filas por columnas. El resto
de términos es (1/N) x (1/N), que se repite N-1 veces (el -1 es porque el término que falta es el (1-
1/N)2
En el resto de espacios va el (1-1/N) que se cruza dos veces con (-1/N) y los otros términos son
(1/N) x (1/N), que se repite N-2 veces (el -2 es porque los términos que faltan son los (-1/N) x (1-
1/N)
 1 1 1   1 1 1 
1  N  N ...  N  1  N  N ...  N 
 1 1 1   1 1 1 
M0M0    1  ...     1  ...  
 N N N  N N N
 ... ... ... ...   ... ... ... ... 
 1

1
... 1    
1 1

1
... 1  
1
 N N N  NxN  N N N  NxN
 1 2 N1 2 1 N2 2 1 N  2
 (1  N)  ( N2 )  N (1  N)  N2 ...  (1  )  2 
N N N
 2 1 N2 1 2 N1 2 1 N  2
M0M0   N (1  N)  N2 (1  )  ( 2 ) ...  (1  )  2 
 N N N N N 
 ... ... ... ... 
 2 (1  1 )  N  2  2 (1  1 )  N  2 ...  2 (1  1 )  N  2 
 N N N2 N N N2 N N N2  NxN
2 1 N2 2 2 N 2 2 1 1
 (1  )  2    2  2  2     
N N N N N N N N N N
1 N1 2 1 N 1 2 1 1
(1  )2  ( 2 )  1   2  2  2  1    1 
N N N N N N N N N
 1 1 1 
1  N  N ...  N 
 1 1 1 
M0M0    1  ...  
 N N N
 ... ... ... ... 
1 
1
... 1  
1
Ahora haremos el producto de M0 y de Y
 1 1 1 
1  N  N ...  N   Y1 
 1 1 1  Y 
M0 Y    1  ...    2
 N N N   ... 
 ... ... ... ...   
 1

1
... 1    N  Nx1
1 Y
 N N 
N  NxN
 1 Y2 YN 
 Y1 (1  N)  N  ...  N 
 Y1 1 YN 
M0 Y    - Y 2 (1  )...  
 N N N 
 ... 
 Y1   Y2  ...  YN (1  1 )
 N N N N  Nx1
 1 N 
 1 N  Yi 
Y 
 i 1
N 
Y  1 
M0 Y   2 N  Yi 
i 1
 ... 
 1 N 
YN   Yi 
 N i1  Nx1
 Y1  Y 
 
 Y2  Y 
M0 Y 
 ... 
 
YN  Y  Nx1
N
M0 Y   (Yi - Y)
i 1
Ahora, elevemos este resultado al cuadrado. Aprovecharemos la idempotencia y la simetría de M 0.

Tenemos que
 (Y - Y)
i 1
i
2
 (M0 Y)(M0 Y)
N
 (Y - Y)
i 1
i
2
 YM0M0 Y
N
 (Y - Y)
i 1
i
2
 YM0M0 Y
N
 (Y - Y)
i 1
i
2
 YM0 Y
N
Haremos un proceso muy similar para hallar  (Yˆ - Yˆ )
i1
i
2
 (M0 Yˆ )(M0 Yˆ )
 (Yˆ - Yˆ )
i 1
i
2
 Yˆ M0 Yˆ
Ahora, dada la definición de R2, reemplazaremos estos términos por los recién encontrados
 (Yˆ  Yˆ ) i i
2
R2  i 1
N
 (Y  Y )
i 1
i i
2
Yˆ M0 Yˆ
R2 
YM0 Y
Finalmente, reemplacemos Ŷ
Yˆ  Xβˆ
Yˆ M0 Yˆ  (Xβˆ )M0 Xβˆ
Yˆ M Yˆ  βˆ XM Xβˆ
0 0
βˆ XM0 Xβˆ
R 2
YM0 Y
Ahora veremos algunas características de los diferentes componentes del modelo (X, Y, μ)
Demostración 7: μ tiene media 0 y varianza constante

Matemáticamente, esta condición se escribe como μ ~ (0, σ 2 )
Recordemos, que dado nuestro modelo Y  Xβ  μ , tenemos que la matriz μ es igual a Y  Xβ  μ
Sacamos valor esperado a ambos lados. Es importante notar que el valor esperado de Y es Xβ.
E(μ )  E(Y  Xβ)

E(μ )  E(Y)  E(Xβ)
E(μ )  Xβ  Xβ
E(μ )  0
La varianza la demostraremos hallando la matriz de varianzas y covarianzas, que está determinada

por μ  E[μ - E(  )][μ - E(  )]'
Dado que Y  Xβ  μ , μ  E[Y  Xβ - E(  )][Y  Xβ - E(  )]'
Puesto que E(μ )  0 , entonces μ  E[Y  Xβ][Y  Xβ]' . Ambos paréntesis son μ. Luego
μ  E[[  ][ ]' ]

μ  E[  ' ]
Definamos la covarianza:
Cov(μ iμ j )  E[μ i  E(μ i )][μ j  E(μ j )]i  j

Cov(μ iμ i )  E[μ i  E(μ i )]2  Var(μ i )
Sabiendo estas definiciones de varianza y covarianza, podremos construir la matriz, así
 E[μ 1  E(μ 1 )]

E[μ  E(μ )]
 2 2 
  E[μ 3  E(μ 3 )] * E[μ 1  E(μ 1 )] E[μ 2  E(μ 2 )] E[μ 3  E(μ 3 )] ... E[μ N  E(μ N )]
 
 ... 
E[μ N  E(μ N )]
 Var(μ 1 ) Cov(μ 1μ 2 ) Cov(μ 1μ 3 ) ... Cov(μ 1μ N )
Cov(μ μ ) Var(μ 2 ) Cov(μ 2 μ 3 ) ... Cov(μ 2 μ N )
 1 2
Σμ  Cov(μ 1μ 3 ) Cov(μ 2 μ 3 ) Var(μ 3 ) ... Cov(μ 3μ N )

 
 ... ... ... ... ... 
Cov(μ 1μ N ) Cov(μ 2 μ N ) Cov(μ 3μ N ) ... Var(μ N ) 
Var(μ 1 ) 0 0 ... 0 
 0 Var(μ 2 ) 0 ... 0 

Σμ   0 0 Var(μ 3 ) ... 0 
 
 ... ... ... ... ... 
 0 0 0 ... Var(μ N )
σ 2 0 0 ... 0
 2 
0 σ 0 ... 0
Σμ   0 0 σ 2
... 0
 
 ... ... ... ... ... 
0 σ 2 
 0 0 ...
1 0 0 ... 0 
0 1 0 ... 0 

Σμ  σ 2 *  0 0 1 ... 0 
 
... ... ... ... ...
 0 0 0 ... 1 
Σμ  σ 2I
Demostración 8: Media y Varianza de Y

Por definición de Y, sabemos que su valor esperado es Xβ.
Ahora, si partimos de la demostración anterior para varianza de μ, tenemos
μ  E[Y  Xβ ][Y  Xβ ]'

μ  E[Y  E(Y)][Y  E(Y)]'
Y  E[Y  E(Y)][Y  E(Y)]'
Y  μ
Y  σ 2 I
En resumen Y ~ (X , σ 2I)
Demostración 9: Media y Varianza de β estimado

La media (el valor esperado) de β estimado se debe estimar sabiendo que βˆ  (X' X) 1 X' Y
E[βˆ ]  E[(X' X) 1 X' Y] Reemplazando Y por su definición tenemos
E[ βˆ ]  E[(X' X)1 X' (Xβ   )]

E[ βˆ ]  E[(X' X)1 X' Xβ  (X' X)1 X' μ]
Distribuimos el valor esperado y operamos
E[ βˆ ]  E[(X' X)1 X' X ]  E[(X' X)1 X' μ]

E[ βˆ ]  E[  ]  E[(X' X)1 X' μ]
E[ βˆ ]  β  (X' X)1 X' E(  )
Como E (μ)=0, deducimos
E[βˆ ]  β
Antes de hacer la varianza, hallemos otra forma de expresar β estimado, que nos será útil después.
De nuevo, partimos de la definición de Y para luego hacer la distributiva
βˆ  (X' X) 1 X' Y
βˆ  (X' X) 1 X' (Xβ  μ)
βˆ  (X' X) 1 X' Xβ  (X' X) 1 X' μ
βˆ  β  (X' X)1 X'μ

βˆ  β  (X' X) 1 X' μ
Para la varianza, trabajaremos con la matriz de varianzas y covarianzas
βˆ  E[[βˆ  E(βˆ )][βˆ  E(βˆ )]']

El valor esperado de β estimado es β poblacional. O sea que se puede expresar esto así
βˆ  E[[(X' X) 1
X' μ][(X' X)1 X' μ]' ]
Operando (atención a la transpuesta) y repartiendo el valor esperado tenemos
 βˆ  E[[(X' X) X'μμ' X(X' X)

1 1
]
 βˆ  (X' X) X'E[  ' ]X(X'X)

1 1
Este valor esperado ya lo habíamos hallado. Remplazando, la expresión se vuelve
βˆ  σ (X' X)
2 1
X' X(X' X)1
Como una matriz por su inversa es la matriz identidad, llegamos a
βˆ  σ (X'X) 2 1
Es decir, βˆ ~ ( β , σ2 (X' X)1 )
Demostración 10: Teorema Gauss – Markov

El teorema Gauss – Markov nos indica que el estimador hallado por el método de MCO es el Mejor
Estimador Lineal insesgado (MELI, o BLUE por sus siglas en inglés). Por mejor se entenderá que es
el de menor varianza.
Expresemos entonces un Estimador lineal insesgado (β virgulilla)

~
Un estimador lineal está dado por una expresión así: β  [(X' X) 1 X'C]Y
Distribuimos y reemplazamos Y.
~
β  (X' X)1 X' Y  CY
~
β  (X' X)1 X' (Xβ   )  C(Xβ   )
~
β  (X' X)1 X' Xβ  (X' X)1 X' μ  CXβ  Cμ
~
β  β  (X' X)1 X' μ  CXβ  Cμ
Restemos β virgulilla menos el poblacional, por conveniencia.

~
β  β  (X' X) 1 X' μ  CXβ  Cμ
Ahora, como deseamos obtener un estimador lineal insesgado, el valor esperado debe ser igual al
β poblacional.
~
β  β  (X' X) 1 X' μ  CXβ  Cμ
~
E( β )  E(β  (X' X) 1 X' μ  CXβ  C )
~
E( β )  E( β )  E((X' X) 1 X' μ)  E(CXβ )  E(C )
~
E( β )  β  (X' X) 1 X' E( μ)  CXE( β )  CE(  )
~
E( β )  β  CXβ
Para que este estimador sea insesgado, hay que imponer la siguiente restricción: CX = 0. Por tanto,
X’C’ = 0 también.
Ya con estas definiciones podemos demostrar lo inicial, esto es, que la varianza de β virgulilla es
menor que la de β gorro (la de MCO)
Hallemos la varianza de β virgulilla

~ ~ ~ ~ ~
 β  E[[ β  E( β )][β  E( β )]']
~ ~ ~
 β  E[[ β  β][ β  β]' ]
~
 β  E[[(X' X) X'μ  CXβ  C ][(X'X) X'μ  CXβ  C ]' ]
1 1
~
 β  E[(X' X) X'μμ' X(X' X)  (X' X) X'μβ' X' C'(X' X) X'  ' C'
1 1 1 1
 CXβ ' X(X' X)1  CXβ ' X' C'CXβ ' C'
 C ' X(X' X)1  C ' X' C'C ' C' ]
Como impusimos la restricción de que CX = 0, la expresión anterior se reduce a

~
 β  E[(X' X) 1
X'  ' X(X' X)1  (X' X)1 X'  ' C'C ' X(X' X)1  C ' C' ]
~
 β  E[(X' X) 1
X'  ' X(X' X)1 ]  E[(X' X)1 X' μ' C' ]  E[C ' X(X' X)1 ]  E[C ' C' ]
~
 β  (X' X) 1
X'E[  ' ]X(X' X)1  (X' X)1 X'E[  ' ]C'CE[  ' ]X(X' X)1  CE[  ' ]C'
Ahora resolveremos el valor esperado

~
 β  σ (X' X)
2 1
X' X(X' X)1  σ 2 (X' X)1 X' C'σ 2CX(X' X)1  σ 2CC'
~
 β  σ (X' X)
2 1
 σ 2 (X' X)1 X' C'σ 2CX(X' X)1  σ 2CC'
Los términos de la mitad serán 0, porque CX = 0

~
 β  σ (X' X)
2 1
 σ2CC'
Para revisar que el estimador de MCO es mejor, la diferencia de varianzas entre β virgulilla y β
gorro debe ser positiva. Entonces
~
 β   βˆ  σ (X' X)2 1
 σ 2 CC'-σ 2 (X' X) 1
~
 β   βˆ  σ CC' 2
Este resultado es positivo, puesto que una varianza es siempre positiva y una matriz por su
transpuesta es semidefinida positiva, con lo cual se demuestra el teorema de Gauss – Markov
Demostración 11: Un estimador insesgado para la varianza

Esta demostración inicia con establecer la varianza poblacional total. Lo que haremos es hallar la
sumatoria de todas las varianzas. Esto es lo mismo que multiplicar la transpuesta de μ por μ
E[μ 1 ]
E[μ ]
 2 
E(μ '  )  E[μ 1 ] E[μ 2 ] E[μ 3 ] ... E[μ N ]E[μ 3 ]
 
 ... 
E[μ N ]
E(μ '  )  E[μ 12 ]  E[μ 22 ]  E[μ 23 ]  ...  E[μ N2 ]
E(μ '  )  σ 2  σ 2  σ 2  ...  σ 2
E(μ '  )  Nσ 2
Ahora, vamos a calcular la matriz de residuales en función de la varianza. Remplazamos β

estimado
μˆ  Y  Xβˆ
μˆ  Y  X[(X' X)1 X' Y]
μˆ  Y  X(X' X)1 X' Y
Si sacamos factor común Y a la derecha y remplazamos Y por Xβ+μ, tenemos

μˆ  [I  X(X' X)1 X' ]Y

μˆ  [I  X(X' X)1 X' ](Xβ   )
μˆ  Xβ  μ - X(X' X)1 X' Xβ  X(X' X)1 X' μ

μˆ  Xβ - Xβ  μ  X(X' X)1 X' μ
Factor común μ a la derecha. Sea M  [I  X(X' X) 1 X' ]
μˆ  [I  X(X' X)1 X' ]μ

μˆ  Mμ
M'  [I  X(X' X) 1 X' ]'

La matriz M es simétrica porque
M'  I'X(X' X) 1 X'  M
Y también es idempotente ya que
MM  [I  X(X' X) 1 X' ][I  X(X' X) 1 X' ]

MM  I  X(X' X) 1 X'X(X' X) 1 X'X(X' X) 1 X' X(X' X) 1 X'
MM  I  X(X' X) 1 X'X(X' X) 1 X'X(X' X) 1 X'
MM  I  X(X' X) 1 X'  M
Ahora, hallemos el valor de la varianza de los residuales
E(μˆ ' μˆ )  E[(M )' (M )]

E(μˆ ' μˆ )  E[  ' MM  ]
E(μˆ ' μˆ )  E[  ' M ]
Esta matriz es un escalar, porque μ’ es de tamaño (1 x N) M es de tamaño (N x N) y μ es de tamaño

(N x 1). Por tanto, si sacamos la traza (suma de la diagonal), tendremos la misma matriz. Traza se
representa por tr. La traza y el valor esperado pueden alternar de posición. Además el valor de la
varianza también puede estar dentro y fuera del valor esperado.
E[  ' M ]  tr{E[  ' M ]}

tr{E[  ' M ]}  E{tr[  ' M ]}
E{tr[  ' M ]}  E{tr[  ' M]}  tr{E[  ' M]}
tr{E[  '  ]M]}  tr{σ 2M}
tr{σ 2M}  σ 2 tr(M)
Ahora remplazamos M. Por propiedades de la traza, puedo cambiar el orden de las matrices y
puedo distribuir el operador traza. Así
σ 2 tr(M)  σ 2 tr[I  X(X' X)1 X' ]

σ 2 tr(M)  σ 2 tr[I]  σ 2 tr[X(X' X)1 X' ]
σ 2 tr(M)  σ 2 tr[I]  σ 2 tr[X' X(X' X)1 ]
La matriz de la derecha es una identidad de tamaño K. La traza de la matriz identidad es el tamaño

de la misma.
E(μˆ ' μˆ )  σ 2 tr[IN ]  σ 2 tr[IK ]

E(μˆ ' μˆ )  σ 2 (N  K)
Despejando σ2
E(μˆ ' μˆ ) E([Y  Xβˆ ]'[Y  Xβˆ ])

σˆ 2  
(N  K) (N  K)
Método de la Máxima Verosimilitud (Maximum Likelihood) bajo el
supuesto de normalidad
Al estimar por el método de MCO la Y, con los X que se tienen y los β y μ estimados, hay una
probabilidad de obtener los datos reales, es decir, de obtener los Y (que Y sea igual a Y estimado).
Esta probabilidad es el producto de la probabilidad de que el Y poblacional y el estimado de cada
observación sean idénticos.
El método de Máxima Verosimilitud sugiere que debemos elegir un conjunto de β y de μ tal que
maximicemos la probabilidad de obtener los datos reales (X e Y).
Vamos a suponer que la función de probabilidad conjunta (probabilidad de hallar los X e Y reales
dados los β los μ) es una función normal. Una función normal está dada por
1 1
 exp{ (Y  x )'(Y  x )}
(2 ) 2 N/2
2σ 2
Esta función exponencial se puede volver lineal vía logaritmos. Queda así
1
ln  ln1  ln(2π 2 )N/2  (Y  x )' (Y  x )
2σ 2
N N 1
ln  ln1  ln(2 )  ln(σ 2 )  2 (Y  X )' (Y  X )
2 2 2σ
N N 1
ln   ln(2 )  ln(σ 2 )  2 (Y  X )' (Y  X )
2 2 2σ
Para maximizar esta función, derivamos respecto a β y a σ2

ln 
 β  (X' X) 1 X' Y
β
Obtenemos el mismo resultado que en MCO.
Para obtener la varianza, derivamos respecto a σ2
ln N 1
 2  (Y  X )' (Y  X )  0
σ 2
2σ 2(σ 2 )2
ln (Y  X )' (Y  X ) - Nσ 2
 0
σ 2 2(σ 2 ) 2
ln
 (Y  X )' (Y  X ) - Nσ 2  0
σ 2
ln
 (Y  X )' (Y  X )  Nσ 2
σ 2
(Y  X )' (Y  X )
σ2 
N
Este estimador es sesgado, pero cumple con el criterio de consistencia (La varianza tiende a 0 a
medida que N tiende a infinito)
Demostración 12: β estimado y μ estimado son independientes

La independencia implica que la matriz de varianzas y covarianzas debe ser 0.
 μˆ βˆ  E[[μˆ  E(μˆ )][βˆ  E(βˆ )]'] Definición de Σ

 μˆ βˆ  E[[μˆ  0][βˆ  β]' ] Valores esperados respectivos
Simplificación
 μˆ βˆ  E[μˆ (βˆ  β)' ] Remplazo por definición
 μˆ βˆ  E[M[(X' X) X'  ]' ]

1
Multiplicación. Ojo con la transpuesta

 μˆ βˆ  E[M ' X(X' X) ] 1
Lo único estocástico es μ
 μˆ βˆ  ME[  ' ]X(X' X) 1

Valor esperado de μμ’
 μˆ βˆ  σ MX(X' X)
2 1
Definición de M
 μˆ βˆ  σ [{I  X(X' X) X' }X(X' X) ]
2 1 1
 μˆ βˆ  σ [X' (X' X)  X(X' X) X' X(X' X)

2 1 1 1
] Distributiva
Matriz por su inversa = Identidad
 μˆ βˆ  σ [X' (X' X)  X(X' X) ]
2 1 1
 μˆ βˆ  σ [0]
2
Se cancelan términos semejantes
 μˆ βˆ  0
Mínimos Cuadrados Restringidos

En muchas ocasiones, los problemas económicos contienen restricciones lineales derivadas de
información no muestral.
En este caso nos enfrentamos a un problema del tipo

N N
ArgMín S  ArgMín  μ i  ArgMín  μ i ' μ i sujeto a RB = r, donde R es la matriz de
2
β β i1 β i1
restricciones. Resolveremos una optimización de Lagrange, dada por:
  (Y  Xβ)' (Y  X )  2(r' β' R' )λ (El dos está por facilidad matemática)
Las condiciones de primer orden serán:

 2X Y  2X Xβˆ r - 2R' λˆ r  0
β

 2(Rβˆ r  r)  0
λ
De la primera condición
X Xβˆ r  X Y  R' λˆ r
βˆ r  (X X) 1 X Y  (X X) 1 R' λˆ r
βˆ r  βˆ  (X X) 1 R' λˆ r
Multiplicamos por R y obtenemos
Rβˆ r  Rβˆ  R(X X) 1 R' λˆ r
De 2 deducimos que
Rβˆ r  r
Es decir,
r  Rβˆ  R(X X) 1 R' λˆ r

r  Rβˆ  R(X X) 1 R' λˆ r
[R(X X) 1 R' ]-1 [r  Rβˆ ]  λˆ r
Reemplazando:
βˆ r  βˆ  (X X) 1 R' [R(X X) 1 R' ]-1 [r  Rβˆ ]
Demostración 13: El estimador de Mínimos Cuadrados Restringidos

es mejor que el de Mínimos Cuadrados Ordinarios
 βˆ   βˆ
r
Tener esta proposición implica que  C donde c es una matriz constante
semidefinida positiva.
Recordando que βˆ  σ 2

(X' X) 1 , que βˆ  β  (X' X) 1 X' μ
Y que βˆ r  β  (X' X) 1 R' [R(X' X) 1 R' ]1 (r  Rβˆ )
E[ βˆ r ]  β  (X' X) 1 R' [R(X' X) 1 R' ]1 (r  R )
E[ βˆ r ]  β  (X' X) 1 R' [R(X' X) 1 R' ] 1 (r  Rβ  R(X' X) 1 X' μ) Remplazo β restringido

Sea δ= r  Rβ  R(X' X)1 X' μ . Restricción falsa
E[ βˆ r ]  β  (X' X) 1 R' [R(X' X) 1 R' ] 1 δ
Si la restricción es cierta, δ=0
E[ βˆ r ]  β
Hallemos β̂ r para la restricción verdadera

βˆ r  βˆ  (X' X) 1 R' [R(X' X) 1 R' ] 1 (r  Rβ  R(X' X) 1 X' μ)

Definición de β restringido
βˆ r  βˆ  (X' X) 1 R' [R(X' X) 1 R' ] 1 (R(X' X) 1 X' μ) Rβ=r si la restricción es verdadera
βˆ r  β  (X' X) 1 X' μ  (X' X) 1 R' [R(X' X) 1 R' ]1 R(X' X) 1 X' μ Distributiva
Factor común a la derecha
βˆ r  β  [I  (X' X) 1 R' [R(X' X) 1 R' ]1 R](X' X) 1 X' μ
βˆ r  β  M * (X' X) -1 X' μ Sea M*  [I  (X' X) 1 R' [R(X' X) 1 R' ]1 R]
βˆ r  β  M * (X' X) -1 X' μ Hacemos la resta por conveniencia
 βˆ
r
 E[[βˆ r  E(βˆ r )][βˆ r  E(βˆ r )]' ]
 βˆ
r
 E[[βˆ r  β][βˆ r  β]' Definición de matriz varianzas y covarianzas
Valor esperado de β restringido
 βˆ
r
 E[[M * (X' X) -1 X' μ][M * (X' X) -1 X' μ]' ] Remplazo de la diferencia
 βˆ
r
 M * (X' X) -1 X' E[  ' ]X(X' X) -1 M*'
Distributiva
 βˆ
r
 M * (X' X) X' σ X(X' X) M*'
-1 2 -1 Valor esperado de μμ’
 βˆ
r
 σ 2M * (X' X) -1 X' X(X' X) -1 M*' Reorganización
 ˆ r  σ 2M * (X' X)-1 M*' Una matriz por su inversa da identidad

β
Ahora, si la restricción es falsa:
βˆ r  βˆ  (X' X) 1 R' [R(X' X) 1 R' ] 1 (r  Rβ  R(X' X) 1 X' μ)
Reorganización
βˆ r  βˆ  (X' X) 1 R' [R(X' X) 1 R' ] 1 (r  R )  (X' X) 1 R' [R(X' X) 1 R' ] 1 R(X' X) 1 X' μ
βˆ r  β  (X' X) 1 X' μ  (X' X) 1 R' [R(X' X) 1 R' ] 1 δ  (X' X) 1 R' [R(X' X) 1 R' ] 1 R(X' X) 1 X' μ Definición de δ y de β MCO
Distributiva
βˆ r  β  (X' X) 1 X' μ  (X' X) 1 R' [R(X' X) 1 R' ] 1 R(X' X) 1 X' μ  (X' X) 1 R' [R(X' X) 1 R' ] 1 δ
βˆ r  β  [ I  (X' X) 1 R' [R(X' X) 1 R' ] 1 R](X' X) 1 X' μ  (X' X) 1 R' [R(X' X) 1 R' ] 1 δ Factor común
Definición de M*
βˆ r  β  (X' X) 1 R' [R(X' X) 1 R' ] 1 δ  M * (X' X) 1 X' μ
Por definición
 βˆ
r
 E[[βˆ r  E(βˆ r )][βˆ r  E(βˆ r )]' ] Definición de Σ
 βˆ
r
1 1 1 1 1 1 1
 E[[β  (X' X) R' [R(X' X) R' ] δ  M * (X' X) X' μ  β  (X' X) R' [R(X' X) R' ] δ]
[β  (X' X) 1 R' [R(X' X) 1 R' ] 1 δ  M * (X' X) 1 X' μ  β  (X' X) 1 R' [R(X' X) 1 R' ] 1 δ]' ]
Términos semejantes se
 βˆ
r
 E[[M * (X' X) -1 X' μ][M * (X' X) -1 X' μ]' ] Σ cancelan
 βˆ
r
 M * (X' X) -1 X' E[  ' ]X(X' X) -1 M*' Lo único estocástico es μ
 βˆ
r
 M * (X' X) -1 X' σ 2 X(X' X) -1 M*' Valor esperado
 βˆ
r
 σ 2M * (X' X) -1 X' X(X' X) -1 M*'
 βˆ
r Matriz por su inversa
 σ 2M * (X' X) -1 M*'
Como podemos observar, la matriz de varianzas y covarianzas en ambos casos es igual.
Analicemos en detalle este resultado:
σ 2M * (X' X)-1 M*'  σ 2 [M * (X' X)-1 M*' ]

σ 2 [M * (X' X)-1 M*' ]  σ 2 [{[I  (X' X)1 R' [R(X' X)1 R' ]1 R]}(X' X)-1{[I  (X' X)1 R' [R(X' X)1 R' ]1 R]}' ]
σ 2 [M * (X' X)-1 M*' ]  σ 2 [{(X' X)-1  (X' X)1 R' [R(X' X)1 R' ]1 R(X' X)-1 }{[I  (X' X)1 R' [R(X' X)1 R' ]1 R]}' ]
σ 2 [M * (X' X)-1 M*' ]  σ 2 [(X' X)-1  (X' X)1 R' [R(X' X)1 R' ]1 R(X' X)-1
 (X' X)1 R' [R(X' X)1 R' ]1 R(X' X)-1  (X' X)1 R' [R(X' X)1 R' ]1 R' (X' X)-1 R' [R(X' X)1 R' ]1 R(X' X)1 ]
σ 2 [M * (X' X) -1 M*' ]  σ 2 [(X' X) -1  2(X' X) 1 R' [R(X' X) 1 R' ]1 R(X' X) -1

 (X' X) 1 R' [R(X' X) 1 R' ]1 R' (X' X) -1 R' [R(X' X) 1 R' ]1 R(X' X) 1 ]
σ 2 [M * (X' X) -1 M*' ]  σ 2 [(X' X) -1  (X' X) 1 R' [R(X' X) 1 R' ]1 R(X' X) -1 ]
σ 2 [M * (X' X) -1 M*' ]  σ 2 (X' X) -1  σ 2 (X' X) 1 R' [R(X' X) 1 R' ]1 R(X' X) -1
 βˆ
r
 σ 2M * (X' X)-1 M*'  σ 2 (X' X)-1  σ 2 (X' X)1 R' [R(X' X)1 R' ]1 R(X' X)-1
 βˆ   βˆ
r
Vamos entonces a hacer la resta
 βˆ   βˆ
r
 σ 2 (X' X) -1 - σ 2 (X' X) -1  σ 2 (X' X) 1 R' [R(X' X) 1 R' ]1 R(X' X) -1
 βˆ   βˆ
r
 σ 2 (X' X) 1 R' [R(X' X) 1 R' ]1 R(X' X) -1
Este resultado es una matriz semidefinida positiva. Las matrices semidefinidas positivas sólo se
obtienen en caso de que el término con signo positivo sea mayor al que tiene signo negativo, o lo
que es lo mismo, que el de signo negativo sea menor. En este caso, el signo negativo está en el
estimador de Mínimos Cuadrados Ordinarios Restringidos y dado que tenemos la matriz
semidefinida positiva, dicho estimador debe ser menor que el de MCO
Intervalos de confianza
Intervalo de confianza para β
A diferencia de la estimación puntual, que es la que se desarrolla habitualmente (ejemplo
μˆ ' μˆ
βˆ  (X' X)1 X' Y ; σˆ 2  ) la estimación por intervalos plantea que el valor poblacional de la
NK
varianza a estimar se encuentra entre ciertos números (los límites del intervalo) en el 1 – α por
ciento de los casos, donde α es el nivel de significancia. Esto sólo se da en muestreo repetido. Para
un solo intervalo, la estimación sólo tiene dos probabilidades: el valor poblacional está (1) o no
está (0). La probabilidad significa que dado una cantidad de muestras (con X e Y diferentes en cada
muestreo), el (1-α) % de los casos obtendré un intervalo que incluya al valor poblacional.
Para obtener el intervalo de confianza para β, partiremos del supuesto de que βˆ ~ [  , σ 2 (X' X) 1 ]
Por ende, si tenemos un modelo de mínimos cuadrados restringidos:
Rβˆ ~ [R , σ 2R(X' X) 1 R' ]
La matriz R será una matriz de ceros y unos con tamaño (1 x k) con k siendo el número de β,
incluyendo el intercepto, en la que habrá un 1 por cada β al que le quiera hallar el intervalo de
confianza. Por ejemplo, si deseo estimar β3 en un modelo con 4 variables (matriz β de 5 x 1)
tendría una matriz R así:
R  0 0 1 0 0
β1 
β 
 2
Rβ  0 0 1 0 0β3   β3
 
β4 
β5 
Definiremos una variable Z como una normal estándar, que se halla restando por la media y
dividiendo por la desviación estándar. Esto es:
Rβˆ - Rβ
Z ~ N(0,1) .
σ R(X' X) 1 R'
Definimos además que
μˆ ' μˆ (N - K)σˆ 2
2
 2
~ χ N2 K
σ σ
Si dividimos la variable Z sobre la raíz de la anterior, tendremos una variable que distribuye t de
Student, con lo cual podremos hallar los límites del intervalo.
Rβˆ - Rβ
σ[R(X' X) 1 R' ]1/2 Rβˆ - Rβ
t  ~ t nk
(N - K)σˆ 2 1/2 σˆ [R(X' X) 1 R' ]1/2
[ ]
σ2
Para armar el intervalo, diremos que el valor de la distribución quedará entre los valores negativo
y positivo de t nk que generan una probabilidad de α/2, porque debemos repartir entre ambas
colas de la distribución el valor de significancia.
Rβˆ - Rβ
P( t α/2 nk  1
 t α/2 nk )  1 - α
σˆ [R(X' X) R' ] 1/2
P( t nk σˆ [R(X' X) 1 R' ]1/2  Rβˆ - Rβ  t α/2 nk σˆ [R(X' X) 1 R' ]1/2 )  1 - α
α/2
P(-Rβˆ  t α/2 nk σˆ [R(X' X) 1 R' ]1/2  -Rβ  Rβˆ  t α/2 nk σˆ [R(X' X) 1 R' ]1/2 )  1 - α
P(-Rβˆ  t α/2 nk σˆ [R(X' X) 1 R' ]1/2  -Rβ  Rβˆ  t α/2 nk σˆ [R(X' X) 1 R' ]1/2 )  1 - α
P(Rβˆ  tα/2 nk σˆ [R(X' X)1 R' ]1/2  Rβ  Rβˆ  tα/2 nk σˆ [R(X' X)1 R' ]1/2 )  1 - α
Región de confianza para dos o más β
Es posible extender este modelo para hacer regiones de confianza, que estarán definidas cuando
queremos hallar intervalos de confianza simultáneamente para dos o más variables. Si tenemos en
cuenta que multiplicar la variable Z varias veces nos da como resultado una χ2 con los grados de
libertad determinados por el número de veces que haga la multiplicación. Entonces, si tenemos j
restricciones, tendremos esto (hay inversa porque no existe la división de matrices)
(Rβˆ - R )'(σ 2 [R(X' X) 1 R' ])-1 (Rβˆ - Rβ) ~ χ 2j

Siguiendo la misma lógica que con una sola restricción, definiremos λ como la división de las dos χ2
mencionadas, que a su vez están divididas por sus grados de libertad. Por definición, esta variable
distribuye F con j y N-K grados de libertad
(Rβˆ - R )' (σ 2 [R(X' X) 1 R' ]) -1 (Rβˆ - Rβ)

j
λ ~ Fj,nk
(N - K)σˆ 2
σ2
N-K
(Rβˆ - R )' ([R(X' X) 1 R' ])-1 (Rβˆ - Rβ)
λ ~ Fj,nk
jσˆ 2
Sin embargo, esta vez no tendremos una desigualdad doble, sino una sencilla puesto que estamos
delimitando una región. Dicha desigualdad estará definida por:
(Rβˆ - R )'([R(X'X)1 R' ])-1 (Rβˆ - Rβ)

P(λ  Fj,nk )  P(  Fj,nk )  1  α
jσˆ 2
Intervalo de confianza para σ2
Para definir un intervalo de confianza para σ2, recordemos esta variable:
2
 2
~ χ N2 K
σ σ
También recordemos que la variable χ2 tiene la siguiente forma:

Teniendo esto en cuenta y partiendo de la variable mencionada, el intervalo de confianza quedará

definido así:
(N - K)σˆ 2
χ N2 K,1-α/2   χ N2 K, α/2
σ2
Despejamos para la varianza. Hay que tener en cuenta que si invertimos numerador y
denominador, la desigualdad cambiará de sentido. Luego de invertir, obtenemos
1 σ2 1
  2
χ N2 K, α/2 (N - K)σˆ 2
χ NK,1-α/2
(N - K)σˆ 2 (N - K)σˆ 2
σ  2
2
χ N2 K, α/2 χ NK,1-α/2
Ejemplo ilustrativo
Dado el modelo
Yi  β 0  β1 X 1i  β2 X 2i
Con 32 observaciones se obtuvieron estos resultados:
0.4 0.3 1.6 

Yi  4.3 - 0.7X1i  2.8X2i  βˆ  σ (X' X) 1.8  0.3 0.5 1 
2 1
1.6 1 0.6 
 Calculemos el intervalo de confianza con un nivel de significancia de 5% (1-α=95%) para β1

y β2 individualmente
Para β1, la matriz de restricciones será R  0 1 0
0.4 0.3 1.6  0

  
R(X’X) R’ va a ser entonces R(X' X) R'  0 1 0 0.3 0.5 1 1  0.5
-1 1
  
1.6 1 0.6  0
N – K = 32 – 3 = 29. Además, el valor de la distribución t con 29 grados de libertad con una

probabilidad de 0.025 es 2.045
El intervalo de confianza, según nuestra fórmula es:
P(Rβˆ  t α/2 nk σˆ [R(X' X) 1 R' ]1/2  Rβ  Rβˆ  t α/2 nk σˆ [R(X' X) 1 R' ]1/2 )  1 - α
Ajustando los datos del ejercicio, tenemos:
P(βˆ 1  (2.045)(1. 3416)[0.5] 1/2  Rβ  βˆ 1  (2.045)(1. 3416)[0.5] 1/2 )  0.95

P(-0.7  (2.045)(1. 3416)[0.5] 1/2  Rβ  -0.7  (2.045)(1. 3416)[0.5] 1/2 )  0.95
P(2.64  Rβ  1.24)  0.95
Nuestro intervalo de confianza para β1 es [-2.64; 1.24]
Por el mismo método aplicado, podemos demostrar que el intervalo de confianza para β 2 es [1.76,
3.84]
Calculemos la región de confianza de β1 y β2
0 1 0 
La matriz de restricciones será R   
0 0 1 
0.4 0.3 1.6  0 0

0 1 0  
1  1 0  0.5 1 
R(X’X) R’ va a ser entonces R(X' X) R'  
-1
 0.3 0.5 1
    
0 0 1  1.6 1 0.6  0 1   1 0.6 
  
Como nos toca hallar la inversa de esta matriz, repasemos cómo se hace:
Hallamos la matriz adjunta que es la matriz de cofactores transpuesta. Atención con los cambios
de signos.
0.5 1  0.6 - 1 
Adj  
 1 0.6   - 1 0.5
Además, hallamos el determinante de la matriz original, que es el producto de la diagonal principal

menos el producto de la diagonal secundaria. En este caso es -0.7
Luego dividimos todos los términos por el determinante y el resultado es la matriz inversa.
 0.6 1 
 0.7 0.7   - 0.857 1.428 
 1 0.5   1.428
   - 0.714 
 0.7 0.7 
Ya tenemos todos los elementos necesarios para remplazar en la fórmula. Aclaremos que F de 2 y
29 es igual a 3.33.
(Rβˆ - R )' ([R(X' X) 1 R' ])-1 (Rβˆ - Rβ)

P(λ  Fj,nk )  P(  Fj,nk )  1  α
jσˆ 2
- 0.857 1.428  βˆ 1  β 1
(βˆ 1  β 1 βˆ 2  β 2 )( )( )
 1.428 - 0.714  βˆ 2  β 2
P(  Fj,nk )  1  α
2(1.8)
βˆ  β 1
(-0.857( βˆ 1  β 1 )  1.428( βˆ 1  β 1 )) (1.428( βˆ 2  β 2 )  0.714( βˆ 2  β 2 )))( 1 )
βˆ 2  β 2
P(  Fj,nk )  1  α
2(1.8)
- 0.857( βˆ  β )2  1.428( βˆ  β )(βˆ  β )  1.428( βˆ  β )(βˆ  β )  0.714( βˆ  β )2

P( 1 1 1 1 2 2 1 1 2 2 2 2  3.33)  0.95
2(1.8)
- 0.857(-0.7  β )2  2.857(-0.7  β )(2.8  β )  0.714(2.8  β )2
P( 1 1 2 2  3.33)  0.95
3.6
P(-0.857(- 0.7  β )2  2.857(-0.7  β )(2.8  β )  0.714(2.8  β )2  11.988)  0.95
1 1 2 2
Estimador puntual e intervalo de confianza para Y

La idea es que tenemos un cierto nivel de X, que vamos a llamar X0. Dado este nivel, ¿Qué valor de
Y esperamos obtener, es decir, cuál es el valor de Y estimado?
Sabemos que Y0=X’0β + μ0. Entonces Yˆ 0  X 0 βˆ Con este valor podremos hacer la estimación
puntual de Y.
La diferencia entre el valor estimado y el valor real será Yˆ 0  Y  X 0βˆ - X 0β - μ 0  X 0 (βˆ -  ) - μ 0
La varianza de esta diferencia será el valor esperado al cuadrado. Recordemos que una matriz por
su transpuesta es el equivalente a elevar al cuadrado cada término de la matriz.
E[ X 0 (βˆ - β) - μ 0 ]2  E[ X 0 (βˆ - β)(βˆ - β)' X 0 ]  2E[ X 0 (βˆ - β)μ 0 ]  E[μ 2 0 ]
Vamos a simplificar esta expresión. Para ello, definimos E[μ 2 0 ]  σ 2
Luego, la expresión E[ X 0 (βˆ - β)μ 0 ] por la independencia de β y μ se puede escribir como

E[ X 0 (βˆ - β)]E[μ 0 ] . Como el valor esperado de μ es 0, toda esta expresión es igual a cero.
Finalmente, dentro del primer término, tenemos E[ X 0 (βˆ - β)(βˆ - β)' X 0 ] . La expresión
E[(βˆ - β)(βˆ - β)' ] es la matriz de varianzas y covarianzas de β estimado, que es igual a
E[(βˆ - β)(βˆ - β)' ]  σ 2 (X' X) 1 . Reemplazando este valor, tenemos que el primer término es igual a
σ 2 [X 0 (X' X) 1 X 0 ]
Dado todo lo anterior, tenemos:
E[ X 0 (βˆ - β) - μ 0 ]2  E[ X 0 (βˆ - β)(βˆ - β)' X 0 ]  2E[ X 0 (βˆ - β)μ 0 ]  E[μ 2 0 ]

 σ 2 [X 0 (X' X) 1 X 0 ]  σ 2
 σ 2 [X 0 (X' X) 1 X 0  1]
La desviación estándar de esta expresión es la raíz cuadrada de la varianza y es igual a
σ[X 0 (X' X) 1 X 0  1] 1/2
El siguiente paso es estandarizar la distribución normal de Y estimado. Esto es, debemos restar por
el valor esperado y dividir por su desviación estándar. Sabiendo que Y estimado es igual a
Yˆ 0  X 0 βˆ , esta distribución queda así
X 0βˆ - Y0
Z ~ N(0,1)
σ[X 0 (X' X) 1 X 0  1] 1/2
Nos encontramos de nuevo con el problema de desconocer la desviación estándar poblacional.

Haremos un procedimiento similar al de β para obtener una distribución t.
 ~ χ N2 K
σ2 σ2
Dividimos la distribución normal sobre la raíz cuadrada del cociente de la χ2 y sus grados de
libertad. Entonces
X 0βˆ - Y0
σ[X 0 (X' X) 1 X 0  1] 1/2 X 0βˆ - Y0
t  ~ t nk
(N - K)σˆ 2 1/2 σˆ [X 0 (X' X) 1 X 0  1] 1/2
[ ]
σ2
Por último, el intervalo de confianza lo armaremos de una forma parecida a la hecha con β.
X 0βˆ - Y0
P( t α/2 nk   t α/2 nk )  1 - α
σˆ [X 0 (X' X) X 0  1]
1 1/2
P( t α/2 nk (σˆ [X 0 (X' X) 1 X 0  1] 1/2 )  X 0βˆ - Y0  t α/2 nk (σˆ [X 0 (X' X) 1 X 0  1] 1/2 ))  1 - α
P(-X  βˆ  t α/2 nk (σˆ [X  (X' X) 1 X  1] 1/2 )  -Y  X  βˆ  t α/2 nk (σˆ [X  (X' X) 1 X  1] 1/2 ))  1 - α
0 0 0 0 0 0 0
P(X0βˆ  t α/2
nk (σˆ [X0 (X' X) X 0  1] )  Y0  X0βˆ  t
1 1/2 α/2
nk (σˆ [X0 (X' X) X 0  1]1/2 ))  1 - α
1
Pruebas de Hipótesis
Pruebas de hipótesis para β

Una prueba de hipótesis pretende demostrar o desmentir una afirmación hecha a priori acerca de
una variable. SIEMPRE debe haber estos cuatro elementos en una prueba de hipótesis
 Hipótesis Nula (H0), también llamada hipótesis de investigación. Lo que queremos probar
 Hipótesis Alterna (H1), justo lo contrario a la hipótesis nula
 Estadístico de prueba, un valor con el cual se demostrará la hipótesis
 Región de rechazo: Conjunto de puntos que rechazan la hipótesis nula.
Lo primero que uno debe hacer es definir las hipótesis. La hipótesis debe estar en términos
poblacionales. Luego, se define el estadístico de prueba conveniente (hay que conocer su
distribución y establecer un nivel de significancia, que es el máximo error tipo I permisible. El error
tipo I es rechazar la hipótesis nula siendo ésta verdadera). Se elige la región de rechazo de acuerdo
a las hipótesis planteadas.
Para una sola β, el estadístico de prueba será la distribución t usada para el intervalo de confianza
Rβˆ - Rβ
~ tnk
σˆ [R(X' X)1 R' ]1/2
Definiremos la región de rechazo según esta tabla
Hipótesis Nula Hipótesis Alterna ¿Cuándo rechazo H0?

β=β0 β≠ β0 t<-tα/2 o tα/2
β≥β0 β< β0 t<tα
β≤β0 β> β0 t>tα
Ahora, si queremos hacer una prueba conjunta, para más de una β definiremos el estadístico de
prueba con la distribución F, exactamente el mismo usado para la región de confianza.
(Rβˆ - R )'([R(X' X) 1 R' ])-1 (Rβˆ - Rβ)

λ
jσˆ 2
Este valor se rechaza si λ> Fj,nk
Pero esta forma puede ser inconveniente. Se pueden usar entonces otras formas de expresar λ
SRCR  SRC R2  Rr2

j j
λ 
SRC 1 - R2
N-K N-K
 SRCR = Suma de los residuales al cuadrado del modelo restringido

 SRC = Suma de los residuales al cuadrado
 Rr2= Coeficiente de determinación del modelo restringido
 R2 = Coeficiente de determinación
Pruebas de hipótesis para σ2
(N - K)σˆ 2
Usaremos el estadístico de prueba 2
~ χ N2 K
σ
Los criterios para elegir rechazar o no la variable estarán dados por:
Hipótesis Nula Hipótesis Alterna ¿Cuándo rechazo H0?

σ2=σ02 σ2≠σ02 (N - K) (N - K)
2
 χ N2 K,1-α/2 o 2
 χ N2 K, α/2
σ0 σ0
σ2=σ02 σ2<σ02 (N - K)
2
 χ N2 K,1-α
σ0
σ2=σ02 σ2>σ02 (N - K)
2
 χ N2 K, α
σ0
Multicolinealidad: Cómo se expresa y se detecta

La multicolinealidad es un problema que consiste en la existencia de una relación lineal entre los
regresores. Idealmente, los regresores deber ser independientes entre sí, pero este no es siempre
el caso. Este problema sucede porque el determinante de la matriz X’X es 0, por lo cual no hay
inversa. Vamos a demostrar una forma de revisar su existencia.
Primero que todo, recordemos:
βˆ  (X' X)1 X' Y
En forma matricial expresamos como hallar los dos primeros β
1
 X 11 X 21    Y1 
 
βˆ 1   X 11 X 12 ... X 1n  X 21 X 22   X 11 X 12 ... X 1n  Y2 
ˆ    
β 2   X 21 X 22 ... X 2n   ... ...   X 21 X 22 ... X 2n   ... 
    
 X 1n X 2n   Yn 
Resolviendo las multiplicaciones tenemos
1
βˆ 1    X 1i2 X X   X 1iYi 
 ˆ     
1i 2i
 X Y 
β 2    X 1iX 2i X 2
2i   2i i 
Antes de seguir aclaremos la definición del coeficiente de correlación
 (X 1i  X)(X2i  X)
ρ x 1 ,x 2 
Cov(x 1 , x 2 )
 N1
Var(x 1 )Var(x 2 )  (X1i  X)2  (X2i  X)2
(N  1) 2
Elevamos este valor al cuadrado y descubrimos que es igual al coeficiente de determinación de X1

y X2.
( (X1iX 2i ))
2
 r1,2
2
 (X )  (X
1i
2
2i ) 2
Sabiendo este resultado, podremos seguir. La inversa de una matriz es el inverso multiplicativo de
su determinante por la matriz adjunta. Para nuestro caso, será
βˆ 1  1   X 22i   X 1iX 2i   X 1iYi 

ˆ     
β2   (X1i )2  (X2i )2  ( X1iX 2i )2    X1iX 2i  X1i2  X 2iYi 
Dividimos la expresión por  (X )  (X 1i

2
2i )2 . Para que se mantenga la igualdad, dividimos cada
término de la matriz por  (X )  (X )
2 2
1i 2i

  X 22i   X 1iX 2i 

βˆ 1 
ˆ  
1   (X1i )2  (X 2i )2
  X X
 1i 2 2i  X 1iYi 
(X ) 2
(X ) 2
β 2   (X1i )  (X 2i )  ( X 1iX 2i )
2 2 2
  1i 2i  X 1i   X 2iYi 
 (X1i )  (X2i )  (X1i )  (X2i )   (X1i )  (X2i )
2 
 (X1i )  (X2i ) 
2 2 2 2 2 2 2 
  r1,2 
 ( X 1i2 ) 1 
βˆ 1  1   (X1i )  (X 2i )   X 1iYi 
2 2
ˆ   2   X Y 
  2i i 
 r1,2
β 2  1  r1,2  ( X 2i )
2 1
  1i  2i
 (X )2 (X )2

Ahora, la matriz de varianzas y covarianzas es
  r1,2 
 ( X 1i2 ) 1 
 β̂ σ 2
(X' X) 1 
σ 
2
 (X1i )  (X2i ) 
2 2
2   r1,2 
1  r1,2
 ( X 22i ) 1 
  (X1i )  (X 2i )
2 2

1
La expresión se conoce como factor de aumento de la varianza. Hay problemas de
1  r1,2
2
multicolinealidad si este valor es mayor a 10.
Variables Dummies, Dicótomas o Ficticias

Son variables que toman el valor de 0 o de 1 según si los individuos cumplen o no ciertas
características, por ejemplo hombre – mujer; sí o no… Las variables dummies son propensas a la
multicolinealidad porque si se toma un exceso de variables dummies, estas no serán
independientes. Por ejemplo, si tomo una variable para hombres y otra para mujeres, estas
estarán profundamente relacionadas.
Otro problema que presentan las dummies es que no necesariamente expresan un valor
cuantitativo real. Por ejemplo, una persona estrato 2 no es el doble de rica que una persona
estrato 1.
¿Qué pasa si no se cumplen los supuestos de MCO?

El modelo de MCO es el mejor modelo que se puede utilizar sólo si todos sus supuestos se
cumplen. Lastimosamente, dichos supuestos son muy restrictivos. La siguiente tabla resumirá los
diferentes supuestos incumplidos, las pruebas de detección y la solución para estas violaciones.
¿Cuál es el problema? ¿Cómo se detecta? ¿Cómo se soluciona?

Multicolinealidad Factor de Aumento de Eliminación de variables, uso
Varianza, Número de de información extra, mayor
Condición, Correlación entre tamaño muestral, Regresiones
regresores tipo Ridge,
Endogeneidad Prueba de Hausman Variable Instrumental
Error en la especificación del Prueba Ramsey RESET Mínimos Cuadrados No
modelo Lineales
Heteroscedasticidad Prueba de White, Prueba de Mínimos Cuadrados
Goldfeld – Quandt, Prueba de Generalizados Factibles
Breusch – Pagan,
Autocorrelación Prueba de Durbin – Watson
Normalidad de μ Prueba Jarque - Bera
Mínimos cuadrados generalizados

Este modelo plantea la existencia de una matriz Ω, cuya inversa se puede descomponer así
Ω 1  P' P Donde P es una matriz triangular superior. Esta matriz aparecerá en la matriz de
varianzas y covarianzas de μ. Antes de seguir, definamos la notación a usar. X*=PX. Y*=PY y μ*=Pμ.
El método de Mínimos Cuadrados Generalizados (MCG) se utiliza para resolver casos de

heteroscedasticidad o de autocorrelación. La estimación de los β se hará así:
βˆ MCG  (X * X*) 1 X * Y *
Reemplazamos de acuerdo a las definiciones anteriores y tenemos
βˆ MCG  ((PX)(PX))1 (PX)(PY)

βˆ MCG  (X PPX) 1 X PPY
Recordando que Ω 1  P' P
βˆ MCG  (XΩ1X)1 XΩ1Y

Además, la matriz de varianzas y covarianzas estará dada por
 βˆ MCG  σ 2 (X * X*) 1
 βˆ MCG  σ 2 ((PX)(PX))1
 βˆ MCG  σ 2 (X PPX) 1
 βˆ MCG  σ 2 (X Ω 1 X) 1
Finalmente, hallemos un estimador para la varianza
μˆ ' μˆ (Y - X * ˆMCG )' (Y - X * ˆMCG )

σˆ MCG  
2
NK NK
(PY - PX )' (PY - PXˆ )
ˆ
σˆ MCG 
2 MCG MCG
NK
Por propiedades de la transpuesta, si sacamos factor común P en el paréntesis de la izquierda, éste

quedará (como P’) a la derecha, pero si lo sacamos en el paréntesis de la derecha, se ubicará en la
izquierda. Esto es
(Y - XˆMCG )'P' P(Y - XˆMCG )

σˆ MCG 
2
NK
Luego, sólo reemplazamos Ω
(Y - XˆMCG )' Ω 1 (Y - XˆMCG )

σˆ MCG 
2
NK
Es posible obtener estos estimadores a través del método de máxima verosimilitud. En este caso,
la función estará dada por
1 1
 exp{ (Y  x )' Ω1 (Y  x )}
(2π 2 )N/2 Ω
1/2 2
2σ
Expresemos la fórmula anterior en logaritmos:
N N 1 1
ln  ln1  ln(2 )  ln(σ 2 ) - ln Ω  2 (Y  X )' Ω -1 (Y  X )
2 2 2 2σ
N N 1 1
ln   ln(2 )  ln(σ 2 ) - ln Ω  2 (Y  X )' Ω -1 (Y  X )
2 2 2 2σ
La derivada respecto a β será muy similar a la presentada en la Demostración 2: ¿Cómo hallar los β
en el modelo general de MCO?. Quedará exactamente igual. ( βˆ  (XΩ1X)1 XΩ1Y )
MCG
Ahora, si derivamos respecto a σ2 tenemos:

ln N 1
 2  (Y  X )' Ω -1 (Y  X )  0
σ 2
2σ 2(σ 2 )2
ln - Nσ 2  (Y  X )' Ω -1 (Y  X )
 0
σ 2 2(σ 2 )2
ln
 -Nσ 2  (Y  X )' Ω -1 (Y  X )  0
σ 2
ln
 (Y  X )' Ω -1 (Y  X )  Nσ 2
σ 2
ln (Y  X )' Ω -1 (Y  X )
  σ2
σ 2
N
Este es un estimador sesgado, pero consistente de σ2
Heteroscedasticidad
La Heteroscedasticidad es la situación en la que hay varias varianzas distintas al interior del
modelo. Esto es, la matriz de varianzas y covarianzas estará dada por
Var(μ 1 ) 0 0 ... 0 
 0 Var(μ 2 ) 0 ... 0 

Σμ   0 0 Var(μ 3 ) ... 0 
 
 ... ... ... ... ... 
 0 0 0 ... Var(μ N )
Normalmente asumiríamos que estas varianzas son todas idénticas, pero este no es el caso. Para
solucionar el problema usamos MCG, como ya se mencionó. Así nuestros β serán
βˆ MCG  (XΩ1X)1 XΩ1Y . Pero hay un problema, ¿Qué es Ω? Al estimar Ω tenemos Mínimos
Cuadrados Generalizados Factibles (MCGF) βˆ MCGF  (X Ω
ˆ 1 X) 1 X Ω
ˆ 1 Y .
Para asumir Ω, definiremos P como una matriz diagonal con el inverso de las desviaciones
estándar.
1 
σ 0 0 ... 0
 1 
0 1
0 ... 0
 σ2 
P 1 
0 0 ... 0
 σ3 
 ... ... ... ... ... 
 1 
0 0 0 ...
σ N 

La matriz Y* será entonces
 Y1 
σ 
 1
 Y2 
Y*   σ  Este método se conoce como Mínimos Cuadrados Ponderados. Este método resulta
2
 ... 
Y 
 N
 σ N  Nx1
muy impráctico, por lo cual no tiene mucho uso. Sin embargo, se puede asumir una matriz con dos
varianzas distintas (divido la muestra en dos partes, no necesariamente iguales).
σ 1 0 0 ... 0
0 σ1 0 ... 0 

Σμ   0 0 ... ... 0
 
 ... ... ... σ 2 ... 
 0 0 0 ... σ 2 
Revisemos mediante una prueba de hipótesis que en efecto exista heteroscedasticidad. La

hipótesis nula será que ambas varianzas son iguales. La hipótesis alterna es que son diferentes.
Esto es
H0  σ 1  σ 2
H1  σ 1  σ 2
(N - K)σˆ 2
Construyamos el estadístico de prueba. Sabemos que 2
~ χ N2 K y además, sabemos que
σ
una distribución F es el cociente de dos distribuciones chi cuadrado divididas por sus grados de
2
(N1 - K)σˆ 1
2
σ1
(N1 - K)
libertad. Esto implica que 2
~ FN1-K,N2-K . Simplificando esta expresión llegamos a
(N2 - K)σˆ 2
2
σ1
(N2 - K)
2 2
σˆ 1 σˆ 1
2
~ FN1-K,N2-K . La región de rechazo se determinará de acuerdo a 2  FN1-K,N2-K
σˆ 2 σˆ 2
Los pasos para solucionar la heteroscedasticidad son:
1. Implementar MCO
2. Obtener los residuales al cuadrado
3. Realizar mediante MCO la regresión ln μˆ 2 i  α 0  α 1 Z 1i  α 2 Z 2i  ...  α k Z ki  ε
4. K
5. Construir
6. Aplicar MCGF
7. Repetir hasta llegar a la convergencia.
FIN 

Demostraciones Econometria PDF

Cargado por

Información del documento

Título original

Derechos de autor

Formatos disponibles

Compartir este documento

Compartir o incrustar documentos

Opciones para compartir

¿Le pareció útil este documento?

¿Este contenido es inapropiado?

Copyright:

Formatos disponibles

Demostraciones Econometria PDF

Título original:

Cargado por

Copyright:

Formatos disponibles

Luis Carlos Carvajal Osorio – Final Econometría 1 1

Hay cinco elementos fundamentales en un modelo:

 Parámetros: Parte de la ecuación que se pretende estimar (ejemplo: los β)

Los datos se pueden clasificar en:

 Corte transversal o cross – section: Datos de múltiples individuos en un mismo momento

Para crear un modelo hay diferentes pasos, a saber:

Criterio de clasificación Categoría 1 Categoría 2

Generalidades del modelo de mínimos cuadrados ordinarios (MCO)

Matemáticamente, esto se representa así:

Yi  β0  β1X1i  β2X2i  ...  βk Xki  μ i

Para un modelo de una variable, de la forma Yi  β0  β1Xi  μ i se puede hacer una

Demostración 1: ¿De dónde salen β0 y β1 en el modelo lineal simple

μ i  Yi  β 0  β1 X i Luego la función objetivo será

β 0β1 β 0β1 i1 β 0β 1 i1

Ahora derivaremos respecto a β 1 . Atención a la regla de la cadena. El -2 pasa a dividir y

Según lo que recién hallamos, reemplazamos β̂ 0 . Distribuimos y agrupamos.

Dividimos por N-1

Por definiciones de varianza y covarianza, llegamos a

Demostración 2: ¿Cómo hallar los β en el modelo general de MCO?

En este caso nos ocupa la función

μ i  Yi  β0  β1X1i  β2X2i  ...  βk Xki  μ i

Nuestra función objetivo ahora será

Expresemos la función matricialmente. Y es un vector N x 1 que contiene todos los valores de la

Esta última expresión se divide en dos sumatorias. La primera es el producto de X e Y. La segunda

(X X) 1 X Xβˆ  (X X) 1 X Y

Demostración 3: El hiperplano de regresión pasa por el punto de

Partimos de XXβˆ  XY

En matrices, esto es:

  β 0 X ki   β1X 1iX ki  ...   βk X ki 

Dividamos todo por N, para obtener los promedios.

βˆ 0 βˆ 1 X1 βˆ 2 X2  ... βˆ k Xk  Y

Demostración 4: La suma de residuales de los estimadores mínimos

Demostración 5: Los momentos de segundo orden entre cada

Si distribuyo, tengo Xμˆ  XY  XYˆ . Pero Yˆ  Xβˆ , luego Xˆ

Demostración 6: Los momentos de segundo orden entre la

 Yˆiμˆ i   (βˆ 0  βˆ 1X1i  βˆ 2X2i  ...  βˆ k Xki )μˆ i

 Yˆiμˆ i  βˆ 0  μˆ i  βˆ 1  X1iμˆ i  βˆ 2  X2iμˆ i  ...  βˆ k  Xkiμˆ i

cuánto de la varianza muestral se define por la regresión). R2 está definido por R2  i 1

El modelo tiene mayor capacidad predictiva a medida de que el R2 se acerque a 1. El R va de 0 a 1. 2

Este coeficiente se puede expresar de otra forma.

Primero, redefinamos el denominador. El valor poblacional de Y es el valor estimado más la

 (Yi  Yi )2   ((Yî  μ i )  Yî )2   (Yî  Yî  μ i )2   [(Yî  Yî )  μ i ]2

Resolvemos el trinomio y distribuimos

 (Y  Y )   [(Yî  Yî )2  2μ i (Yî  Yî )  μ i ]

 (Yi  Yi )2   (Yî  Yî )2  2 μ i (Yî  Yî )   μ i

i1 i1 i1 i1

 (Yi  Yi )2   (Yî  Yî )2  2 μ i Yî  2Yî  μ i   μ i

i1 i1 i1 i1 i 1

 (Yi  Yi )2   (Yˆi  Yˆi )2   μ i

i1 i1 i1

Ahora dividamos todos por  (Y  Y ) i i

 (Yi  Yi )2  (Yˆi  Yˆi )2 μ

R2 también se puede definir en forma matricial. Definiremos la matriz M0 así

Ahora haremos el producto de M0 y de Y

Ahora, elevemos este resultado al cuadrado. Aprovecharemos la idempotencia y la simetría de M 0.

Demostración 7: μ tiene media 0 y varianza constante

Recordemos, que dado nuestro modelo Y  Xβ  μ , tenemos que la matriz μ es igual a Y  Xβ  μ

E(μ )  E(Y  Xβ)

La varianza la demostraremos hallando la matriz de varianzas y covarianzas, que está determinada

Dado que Y  Xβ  μ , μ  E[Y  Xβ - E(  )][Y  Xβ - E(  )]'

μ  E[[  ][ ]' ]

Cov(μ iμ j )  E[μ i  E(μ i )][μ j  E(μ j )]i  j