ECONOMETRÍA Y PRONÓSTICO

Clase 2: Definición del modelo de regresión lineal simple

Contenido
1. Modelo regresión lineal simple.
2. Regresión lineal simple.
3. Definición del modelo.
4. Estimación de mínimos cuadrados ordinarios (MCO).
Resultado de aprendizaje
Entiende la forma funcional de modelos de regresión lineal
simple y cómo obtener los diferentes componentes del
modelo. Además, entiende el funcionamiento de Rstudio
(introducción al software Rstudio).
¿Tienes alguna duda sobre la
clase anterior?
 Modelo de regresión lineal simple

Modelo regresión lineal simple

El modelo de regresión simple puede utilizarse para estudiar la relación entre dos
variables.

En general, un modelo de regresión se puede entender como una relación causal en

un solo sentido, es decir, mediante una variable se tratará de explicar a otra.

Para entender las regresiones lineales se debe tener conocimiento del

comportamiento de las variables, las implicancias y consecuencias de querer explicar
un evento, además del conocimiento econométrico estadístico de la metodología
para llevar a cabo una regresión.

Aprender a interpretar el modelo de regresión simple es una buena

práctica para estudiar la regresión múltiple, esto lo estudiaremos en
las próximas clases.
 Modelo de regresión lineal simple

Regresión lineal simple

Es indispensable conocer cómo “combinar variables” de forma
matemáticamente apropiada y dar una correcta interpretación.
La regresión lineal forma una recta dentro de un plano
cartesiano, y a partir de ella, se pueden obtener conclusiones.

Predictor o
covariable

Forma
matemática de
regresión lineal
simple: Coeficientes
Elaboración propia.
Regresión
Variable Error
dependiente aleatorio
 Modelo de regresión lineal simple

Regresión lineal simple

Cada uno de los componentes de la regresión lineal tiene una forma matemática de expresar:

Variable dependiente Variable predictora o

de otras. covariable.

Coeficientes a estimar Diferencia entre valor real y el

mediante técnica de mínimos estimado por la regresión lineal
cuadrados ordinarios. de la variable dependiente.
 Modelo de regresión lineal simple

Regresión lineal

¿Qué queremos lograr en primera instancia?

a) Probar si los coeficientes Hipótesis nula Hipótesis alternativa

betas son significativos, implica
determinar si la variable X
explica a la variable Y.

¿Qué pasa si es 0? ¿Qué pasa si es 0?

 Modelo de regresión lineal simple

Definición del modelo

Modelo regresión lineal

𝛾𝛾 = 𝛽𝛽0 + 𝛽𝛽1 𝑥𝑥 + 𝑢𝑢
 Modelo de regresión lineal simple

Definición del modelo

La variable 𝑢𝑢, llamada término de error, o perturbación en la relación,

representa factores distintos a 𝑥𝑥 que afectan a 𝑦𝑦. Un análisis de
regresión simple en realidad trata a todos los factores que afectan a 𝑦𝑦 y
que son distintos a 𝑥𝑥 como factores no observados.

Si los demás factores en u permanecen constantes, de manera que el

cambio en 𝑢𝑢 sea cero, 𝞓𝞓𝗎𝗎 = 0 entonces 𝑥𝑥 tiene un efecto lineal sobre 𝑦𝑦
:
 Modelo de regresión lineal simple

Definición del modelo

Por tanto, el cambio en 𝑦𝑦 es simplemente 𝛃𝛃₁ multiplicado por el cambio en 𝑥𝑥. Esto significa que 𝛃𝛃₁, es
el parámetro de la pendiente en la relación entre 𝑦𝑦 y 𝑥𝑥, cuando todos los demás factores en 𝓊𝓊
permanecen constantes, este parámetro es de interés primordial en la economía aplicada. El
parámetro del intercepto 𝛃𝛃₀, algunas veces llamado término constante, tiene también su utilidad,
aunque es raro que tenga una importancia central en el análisis.
Predictor o
covariable

Forma matemática de
regresión lineal simple.
Coeficientes
regresión
Variable Error
dependiente aleatorio
 Modelo de regresión lineal simple

Definición del modelo

Una medida natural de la relación entre 2 variables aleatorias

es el coeficiente de correlación de Pearson para variables de
conteo y/o continuas, en las que matemáticamente se tiene:
 Modelo de regresión lineal simple

Definición del modelo

Finalmente, la fórmula se transforma a:
 Modelo de regresión lineal simple

Definición del modelo

Para obtener estimadores confiables de 𝛃𝛃₀ y 𝛃𝛃₁, se debe hacer una suposición que
restrinja la manera en que la variable no observable está relacionada con la variable
explicativa 𝑥𝑥. Sin esta restricción, no es posible estimar el efecto ceteris paribus, 𝛃𝛃₁.

En tanto 𝛃𝛃₀ aparezca en la ecuación, nada se altera al suponer que el valor promedio de
la 𝑢𝑢 en la población, es 0. Matemáticamente:

Este supuesto no dice nada acerca de la relación entre 𝑢𝑢 y 𝑥𝑥, solo afirma algo
acerca de la distribución de los efectos no observables en la población.
 Modelo de regresión lineal simple

Definición del modelo

El supuesto crucial es que el valor promedio de 𝓊𝓊 no depende del valor

de 𝑥𝑥. Este supuesto se expresa como:

Cuando se satisface la ecuación (2) se dice que la 𝓊𝓊 es media

independiente de 𝑥𝑥. Combinando la independencia de la media con la
ecuación (1), se obtiene el supuesto de media condicional 0, 𝐸𝐸(𝓊𝓊|𝑥𝑥) =
0. Es vital recordar que la ecuación (2) es el supuesto importante; la
ecuación (1) solo define el intercepto, 𝛃𝛃₀.
 Modelo de regresión lineal simple

Definición del modelo

El supuesto de media condicional 0 proporciona otra

interpretación de 𝛃𝛃₁. Tomando el valor esperado
condicionado a 𝑥𝑥 usando 𝐸𝐸(𝓊𝓊|𝑥𝑥) = 0 se tiene:

La ecuación (3) muestra que la función de regresión poblacional (FRP), 𝐸𝐸(𝓊𝓊|𝑥𝑥),

es una función lineal de 𝑥𝑥. La linealidad significa que por cada aumento de una
unidad en 𝑥𝑥 el valor agregado esperado de 𝑦𝑦 se modifica en la cantidad 𝛃𝛃₁.
Dado cualquier valor de 𝑥𝑥, la distribución de 𝑦𝑦 está centrada en 𝐸𝐸(𝓊𝓊|𝑥𝑥).
 Modelo de regresión lineal simple

Estimación de mínimos cuadrados ordinarios (MCO)

La FRP da una relación entre el promedio de 𝑦𝑦 y diferentes valores de 𝑥𝑥.

Parte Parte no
sistemática sistemática

Para estimar los paramentos 𝛃𝛃₀ y 𝛃𝛃₁, se necesita tomar una muestra de la población.
Sea 𝑖𝑖 = 1,...n} una muestra aleatoria de tamaño 𝑛𝑛 tomada de la población, para toda 𝑖𝑖
y puede escribirse:

𝛾𝛾 = 𝛽𝛽0 + 𝛽𝛽1 𝑥𝑥𝑖𝑖 + 𝑢𝑢𝑖𝑖

 Modelo de regresión lineal simple

Estimación de mínimos cuadrados ordinarios (MCO)

 Modelo de regresión lineal simple

Estimación de mínimos cuadrados ordinarios (MCO)

MCO

Mediante algunos arreglos matemáticos en (iii) y (iv) -los cuales verás

en el anexo de la siguiente diapositiva-, podemos llegar a los
estimadores de 𝛃𝛃₀ y 𝛃𝛃₁.

Nota: cuando tenemos , corresponde a una estimación.

 Modelo de regresión lineal simple

Anexos

1. Estimación de parámetros del

modelo mediante MCO.
 Modelo de regresión lineal simple

Resumen de la clase

Se introdujo el modelo de regresión lineal

simple y se vieron sus propiedades básicas.
Dada una muestra aleatoria se usó el método
de mínimos cuadrados ordinarios (MCO) para
estimar los parámetros correspondientes a la
pendiente y al intercepto en el modelo
poblacional.
Se demostró el álgebra de la línea de regresión de MCO,
comprendiendo el cálculo de los valores ajustados y de los
residuales, así como la obtención de cambios que se predicen
en la variable dependiente para un cambio dado de la variable
independiente.
 Modelo de regresión lineal simple

Estimación de mínimos cuadrados ordinarios (MCO)

En la población, 𝑢𝑢 no está correlacionada con 𝑥𝑥. Por tanto, se tiene que el valor esperado de 𝑢𝑢 es
cero y que la covarianza entre 𝑥𝑥 y 𝑢𝑢 es cero:

Las ecuaciones (i) y (ii) pueden expresarse en términos de las variables observables 𝑥𝑥 y 𝑦𝑦, y de los
parámetros desconocidos 𝛃𝛃₀ y 𝛃𝛃₁, como sigue:
 Modelo de regresión lineal simple

Estimación de mínimos cuadrados ordinarios (MCO)

 Modelo de regresión lineal simple

Estimación de mínimos cuadrados ordinarios (MCO)

 Modelo de regresión lineal simple

Estimación de mínimos cuadrados ordinarios (MCO)

Donde, reordenando,
se obtiene:

Y por propiedades
de sumatoria:
 Modelo de regresión lineal simple

Estimación de mínimos cuadrados ordinarios (MCO)

Por tanto, siempre que:

La pendiente estimada es:

 Modelo de regresión lineal simple

Estimación de mínimos cuadrados ordinarios (MCO)

 Modelo de regresión lineal simple

Estimación de mínimos cuadrados ordinarios (MCO)

El valor residual de la observación 𝑖𝑖 es la diferencia entre el verdadero y
su valor ajustado:

Ahora, suponga que se eligen de manera que la suma de

residuales cuadrados sea lo más pequeña posible:

Obtenida de: Flaticon, 2021.

 Modelo de regresión lineal simple

Estimación de mínimos cuadrados ordinarios (MCO)

A las ecuaciones (v) y (vi) se les llama condiciones de primer orden para las estimaciones de MCO, y las
soluciones de estas condiciones son las dadas por las ecuaciones (viii) y (x). El nombre de “mínimos
cuadrados ordinarios” proviene del hecho de que estas estimaciones minimizan la suma de los
residuales cuadrados.

Una vez que se ha determinado las estimaciones por MCO del intercepto y de la pendiente, se obtiene
la línea de regresión de MCO.

También se le llama función de regresión muestral (FRM), debido a que es la versión estimada de la
función de regresión poblacional 𝐸𝐸(𝑦𝑦|𝑥𝑥) = 𝛃𝛃₀ + 𝛃𝛃₁𝑥𝑥. Es importante recordar que la FRP es algo fijo,
pero desconocido.
 Modelo de regresión lineal simple

Estimación de mínimos cuadrados ordinarios (MCO)

En la mayoría de los casos, pendiente estimada,
que se puede expresar como:

Es de gran interés, pues indica la cantidad en la que cambia cuando x se

incrementa en una unidad. De manera equivalente:

Por lo tanto, cualquier cambio en 𝑥𝑥 (ya sea positivo o

negativo), se puede calcular el cambio en 𝑦𝑦.
 Modelo de regresión lineal simple

Estimación de mínimos cuadrados ordinarios (MCO)

Valores ajustados y residuales

Elaboración propia.
 Modelo de regresión lineal simple

Bibliografía

Gujarati, D., Porter, D. (2010). Econometría (5ª ed.). México: McGraw-Hill.

Stock, J., Watson, M. (2012). Introducción a la econometría (3ª ed.). España: Pearson Educación.

Wooldridge, J. (2015). Introducción a la econometría (5ª ed.). México: Cengage Learning.