Modelo de Regresión Lineal Simple

Econometría Aplicada
Modelo de Regresión Lineal Simple: MCO

Econ. José Bordón

Marzo 2021
Modelo de Regresión Lineal Simple

Mínimos Cuadrados Ordinarios

  El método de los mínimos cuadrados ordinarios (MCO u OLS)

consiste en estimar el valor de con la regresión muestral .
Modelo de Regresión Lineal Simple

Mínimos Cuadrados Ordinarios

  El método de los mínimos cuadrados ordinarios (MCO u OLS)

consiste en estimar el valor de con la regresión muestral .

 Técnicamente, el método consiste en minimizar la suma de los

residuos al cuadrado (RSS)
Modelo de Regresión Lineal Simple

Mínimos Cuadrados Ordinarios

  El método de los mínimos cuadrados ordinarios (MCO u OLS)

consiste en estimar el valor de con la regresión muestral .

 Técnicamente, el método consiste en minimizar la suma de los

residuos al cuadrado (RSS)

 Se define el valor ajustado de como

Este es el valor que se predice para

Modelo de Regresión Lineal Simple

Mínimos Cuadrados Ordinarios

  La diferencia entre la observada y la ajustada se denomina error

residual o error muestral.
Modelo de Regresión Lineal Simple

Mínimos Cuadrados Ordinarios

  La diferencia entre la observada y la ajustada se denomina error

residual o error muestral.

 Finalmente, los estimadores y se eligen de tal manera que se

minimice la suma de los residuos al cuadrado (RSS)
Modelo de Regresión Lineal Simple

Mínimos Cuadrados Ordinarios

Modelo de Regresión Lineal Simple

Mínimos Cuadrados Ordinarios

  Para esto, debemos elegir y de tal manera que la derivadas de la

RSS con respecto a las sean cero. Esto
Modelo de Regresión Lineal Simple

Mínimos Cuadrados Ordinarios

  Para esto, debemos elegir y de tal manera que la derivadas de la

RSS con respecto a las sean cero. Esto

 ¿No nos lucen familiares estas ecuaciones?

Modelo de Regresión Lineal Simple

Mínimos Cuadrados Ordinarios

  Para esto, debemos elegir y de tal manera que la derivadas de la

RSS con respecto a las sean cero. Esto

 ¿No nos lucen familiares estas ecuaciones?

 Son las mismas que la del método de momentos que vimos en la

clase anterior. Entonces, el estimador de MCO es un caso
particular del método de momentos.
Modelo de Regresión Lineal Simple

Mínimos Cuadrados Ordinarios

 Otras sumas de cuadrados importantes:

 Suma total de cuadrados (TSS) = Suma explicada de cuadrados

(ESS) + Suma de residuos al cuadrado (RSS)

 Variación Total = Variación Explicada + Variación No Explicada

Modelo de Regresión Lineal Simple

Mínimos Cuadrados Ordinarios

Bondad de Ajuste

 Suele ser útil calcular un número que nos diga que tan bien se
ajusta la línea de regresión a los datos
Modelo de Regresión Lineal Simple

Mínimos Cuadrados Ordinarios

 Bondad de Ajuste

 Suele ser útil calcular un número que nos diga que tan bien se
ajusta la línea de regresión a los datos

 La o coeficiente de determinación se define como:

Modelo de Regresión Lineal Simple

Mínimos Cuadrados Ordinarios

 Bondad de Ajuste

 Suele ser útil calcular un número que nos diga que tan bien se
ajusta la línea de regresión a los datos

 La o coeficiente de determinación se define como:

 Proporción de la variación muestral de explicada por

 El valor del está entre 0 y 1. ¿Por qué?

Modelo de Regresión Lineal Simple

Mínimos Cuadrados Ordinarios

Ejemplo

 roe: rendimiento sobre el capital de las empresas

salary: salario de los CEO.

¿Puede interpretar el
Modelo de Regresión Lineal Simple

MCO: Insesgadez del estimador

 Insesgadez del estimador de MCO

 Con los supuestos 1 al 4 podemos probar la insesgadez de los

estimadores de MCO.

 Para arrancar, demuestre la siguiente expresión:

Modelo de Regresión Lineal Simple

MCO: Insesgadez del estimador

 Insesgadez del estimador de MCO

 Con los supuestos 1 al 4 podemos probar la insesgadez de los

estimadores de MCO.

 Para arrancar, demuestre la siguiente expresión:

 A partir de esta expresión se prueba que

Modelo de Regresión Lineal Simple

MCO: Insesgadez del estimador

 Insesgadez del estimador de MCO

 Por la ley de expectativas totales,

 Como podemos ver solo fueron necesarios 4 supuestos. Ahora, en

términos más simples, ¿que significan que los estimadores sean
insesgados?

 ¿Qué pasa si alguno de los 4 supuestos no se cumple? En especial

concentrémonos en el supuesto de exogeneidad estricta.
Modelo de Regresión Lineal Simple

MCO: Insesgadez del estimador

 Insesgadez del estimador de MCO

 Si el supuesto 4 no se cumple, se dice que los estimadores son

sesgados.

 Que el supuesto 4 no se cumpla, implica que se esta estimando una

relación espuria entre e . Esto es, la relación encontrada entre e
es está afectada por factores no observados que afectan a y que
resultan estar correlacionados con .
Modelo de Regresión Lineal Simple

MCO: Insesgadez del estimador

 Ejemplo

 Siendo math10 el porcentaje de estudiantes que aprueban el

examen de matemáticas y lnchprg el porcentaje de estudiantes
beneficiados con el programa de desayunos escolares.

 El modelo es el siguiente

 ¿Qué contiene ?
Modelo de Regresión Lineal Simple

MCO: Insesgadez del estimador

Ejemplo

 Se obtiene la siguiente estimación

 ¿Puede interpretar la pendiente? ¿Le parece razonable?

Modelo de Regresión Lineal Simple

MCO: Insesgadez del estimador

Ejemplo

 Se obtiene la siguiente estimación

 ¿Puede interpretar la pendiente? ¿Le parece razonable?

 ¿Encuentra alguna explicación?

Modelo de Regresión Lineal Simple

MCO: Insesgadez del estimador

Ejemplo

 Se obtiene la siguiente estimación

 ¿Puede interpretar la pendiente? ¿Le parece razonable?

 ¿Encuentra alguna explicación?

 Como el error contiene factores no observados tal como el

porcentaje de pobreza, se puede esperar que esta variable tenga
un efecto negativo en el rendimiento de los alumnos, así como
también puede estar correlacionada con la asignación del
programa.
Modelo de Regresión Lineal Simple

MCO: Varianza de los estimadores

 Varianza de los estimadores

 Usando los supuestos 1 al 5. Pruebe que

Modelo de Regresión Lineal Simple

MCO: Varianza de los estimadores

 Varianza de los estimadores

 Resultados importantes

1. Cuanto mayor sea la varianza del error, mayor será la varianza del
estimador de beta 1. Esto tiene sentido, ya que cuanto mayor sea
la variación de factores no observables que afectan a , se hace
mas difícil estimar a .
2. A medida que aumenta la variabilidad de la variable
independiente, menor es la varianza del estimador de . Preferimos
la diversidad en .
3. Así también, cuanto mayor es la muestra, mas varía , ergo menor
la varianza del estimador de .
Modelo de Regresión Lineal Simple

MCO: Varianza de los estimadores

 Varianza del error

 Como no conocemos la varianza del error, tenemos que estimarla.

 Los errores no son observables, mientras que los residuales se

calculan a partir de los datos

 ¿Entonces?

 Como tenemos (por el supuesto de homocesticidad), podemos

pensar en el siguiente estimador

 La desventaja con este estimador, es que es sesgado.

Modelo de Regresión Lineal Simple

MCO: Varianza de los estimadores

 Varianza del error

 Entonces modificamos la expresión anterior para obtener el

estimador insesgado.

 Al sustituir en las formulas de varianza de los estimadores de beta,

se tienen estimadores insesgados de la varianza de los beta MCO.
Modelo de Regresión Lineal Simple

MCO: Varianza de los estimadores

 Error estándar de los estimadores

 A continuación se toma raíz cuadrada del error estándar de las

varianzas y se tiene el error estándar de los estimadores

 El error estándar da una idea de cuan preciso es el estimador

 Estos tienen particular importancia al momento de realizar pruebas
estadísticas. Cuestión que analizaremos más adelante.
Modelo de Regresión Lineal Simple

Tipos de unidades de medición

 Es fácil saber que sucede con las estimaciones de la pendiente y el

intercepto cuando cambian las unidades de medición de la variable
dependiente.
Modelo de Regresión Lineal Simple

Tipos de unidades de medición

  Es fácil saber que sucede con las estimaciones de la pendiente y el

intercepto cuando cambian las unidades de medición de la variable
dependiente.

 Escriba el modelo y multiplique pora la , y luego identifique los

cambios.
Modelo de Regresión Lineal Simple

Tipos de unidades de medición

  Es fácil saber que sucede con las estimaciones de la pendiente y el

intercepto cuando cambian las unidades de medición de la variable
dependiente.

 Escriba el modelo y multiplique por a la , y luego identifique los

cambios.

 Si la variable independiente se divide o se multiplica por una

constante distinta de cero, , entonces el coeficiente de la pendiente
de MCO se multiplica por o se divide entre , respectivamente.
Escriba el modelo y compruebe.

 La bondad de ajuste no depende de las unidades de medición.

Modelo de Regresión Lineal Simple

Tipos de unidades de medición

 Existen otras formas funcionales como las que se muestran en la

siguiente tabla.

¿Puede describir en palabras mas simples los resultados de la ultima

columna?
¿Puede escribir la ecuación para cada caso?
Modelo de Regresión Lineal Simple

Tipos de unidades de medición

  Caso 1: b, cuanto aumenta por cada unidad de .

Modelo de Regresión Lineal Simple

Tipos de unidades de medición

  Caso 1: b, cuanto aumenta por cada unidad de .

 Caso 2: b/100, cuanto aumenta por cada aumento de 1% de .

Modelo de Regresión Lineal Simple

Tipos de unidades de medición

  Caso 1: b, cuanto aumenta por cada unidad de.

 Caso 2: b/100, cuanto aumenta por cada aumento de 1% de .

 Caso 3: 100*b, cuanto % aumenta por cada unidad de .

Modelo de Regresión Lineal Simple

Tipos de unidades de medición

  Caso 1: b, cuanto aumenta por cada unidad de .

 Caso 2: b/100, cuanto aumenta por cada aumento de 1% de .

 Caso 3: 100*b, cuanto % aumenta por cada unidad de .

 Caso 4: b, cuanto % aumenta por cada aumento de 1% de .

Modelo de Regresión Lineal Simple

Mínimos Cuadrados Ordinarios

Ejemplos

 Se obtiene la siguiente estimación

¿Puede interpretar la pendiente?

 Se obtiene la siguiente estimación

¿Puede interpretar la pendiente?

Modelo de Regresión Lineal Simple

Mínimos Cuadrados Ordinarios

 Recuerde que para realizar un trabajo empírico exitoso, es mas

importante tener la capacidad de interpretar los coeficientes antes
que tener destreza en el calculo de formulas.
Modelo de Regresión Lineal Simple

Mínimos Cuadrados Ordinarios

Ejercicio 1
Modelo de Regresión Lineal Simple

Mínimos Cuadrados Ordinarios

Ejercicio 2