Teorema de Gauss-Markov

Considerando los supuestos básicos del modelo clásico de regresión lineal de dos
variables.

1. La relación entre Y y X es lineal y está dada por la ecuación

𝑌 = 𝛼 + 𝛽𝑋 + 𝑢
2. Las X son variables no estocásticas cuyos valores son fijos
3. El error tiene un valor esperado de cero
4. El término del error tiene una varianza constante para todas las observaciones
5. Las variables aleatorias u son estadísticamente independientes

La suposición de que el término del error tiene un valor esperado de cero (3) se hace en
parte por conveniencia, ya que el término del error tiene una media que no es cero, el
modelo original sería equivalente al modelo nuevo con un intercepto diferente pero con un
término del error teniendo media cero.

Si el término del error tiene una varianza constante (4) se le llama homocedástico, pero si
la varianza es cambiante, se llama heterocedástico. La heterocedasticidad puede surgir si
se está examinando una muestra representativa de empresas en una industria. Puede
haber una razón para creer que los términos de error asociados con empresas muy grandes
tendrán una varianza mayor a aquellos asociados con empresas pequeñas.

La suposición de que los errores correspondientes a diferentes observaciones son

independientes y por consiguiente carecen de relación, es importante tanto es estudios de
series de tiempo como en los de corte transversal.

Dados los supuestos del modelo clásico de regresión lineal, los calores estimados de
mínimos cuadrados poseen algunas propiedades ideales u óptimas.

Estas propiedades están contenidas en el Teorema de Gauss-Markov. Para entender este

teorema se necesita considerar la propiedad del mejor estimador lineal insesgado (MELI).

̂2 es MELI de 𝛽2 si se cumple:
El estimador MCO, 𝛽
 a) Es lineal, es decir, función lineal de una variable aleatoria tal como la variable
dependiente Y en el modelo de regresión.
b) Es insesgado, es decir, su valor promedio o esperado es igual al valor verdadero.
c) Tiene varianza mínima dentro de la clase de todos los estimadores lineales
insesgados, un estimador insesgado con varianza mínima es conocido como un
estimador eficiente.

Así, el Teorema de Gauss-Markov es:

Dadas las suposiciones de la 1 a la 5, los estimadores 𝛼̂ 𝑦 𝛽̂ son los mejores, los más
eficientes estimadores lineales insesgados de 𝛼 𝑦 𝛽 en el sentido de que tienen la varianza
mínima de todos los estimadores lineales insesgados.

Para entender la importancia de este teorema se debe notar que 𝛼̂ 𝑦 𝛽̂ son estimadores
lineales, en vista de que 𝛽̂ puede escribirse como un promedio ponderado de las
observaciones individuales en Y. Hay una gran cantidad de estimadores lineales posibles
que podrían usarse para estimar el intercepto y la pendiente, una porción de estos
estimadores, será insesgado. Sin embargo, 𝛽̂ tiene la propiedad adicional de que su
distribución de probabilidad tiene una varianza menor de todos sus estimadores lineales
que son insesgados.

El teorema de Gauss-Markov no se aplica a estimadores no lineales, y para el se

encontrarán expresiones para la media y la varianza de los estimadores de mínimos
cuadrados. Para simplificar se trata con datos en forma de desviaciones.