Sesión 5

Estimación del Modelo de Regresión Lineal Simple

Estimadores de Mínimos Cuadrados

𝛽መ1 = 𝑌ത− 𝛽መ2 𝑋ത… . . ሺ3.1.7ሻ

σ 𝑥𝑖 𝑦𝑖
𝛽መ2 = 2 … . . ሺ3.1.6ሻ′
σ 𝑥𝑖
Sup. 3 La esperanza de las perturbaciones es
cero (supuestos sobre el término de error)

Los factores no incluidos explícitamente en el

modelo y, por consiguiente, incorporados en
ui, no afectan sistemáticamente el valor de la
media de Y; es decir, los valores positivos de
ui se cancelan con los valores negativos de ui,
de manera que el efecto medio o promedio
sobre Y es cero.
Sup. 4 Las perturbaciones tienen una varianza
constante (supuestos sobre el término de error)
Sup. 5 Las perturbaciones no están correlacionadas
entre sí (supuestos sobre el término de error)

Si los datos son transversales, a

menudo es posible justificar este
supuesto. Sin embargo, si los datos
corresponden a una serie de tiempo, es
difícil mantener el supuesto de
independencia, porque las
observaciones sucesivas de una serie de
tiempo, como el PIB, están muy
correlacionadas.
errores estándar de los estimadores de MCO
(medida de “confiabilidad” o precisión de los estimadores y )

• La precisión de un valor estimado se mide por su error estándar (ee)

• Dados los supuestos anteriores, los errores estándar de las estimaciones de MCO pueden
obtenerse de la siguiente manera:
Resumen Global de la Regresión
> summary(Modelo)

. reg c y

Source SS df MS Number of obs = 10

F(1, 8) = 202.87
Model 8552.72727 1 8552.72727 Prob > F = 0.0000
Residual 337.272727 8 42.1590909 R-squared = 0.9621
Adj R-squared = 0.9573
Total 8890 9 987.777778 Root MSE = 6.493

c Coef. Std. Err. t P>|t| [95% Conf. Interval]

y .5090909 .0357428 14.24 0.000 .4266678 .591514

_cons 24.45455 6.413817 3.81 0.005 9.664256 39.24483
Teorema de Gauss-Markov
• Dados los supuestos del MCRL, los estimadores de mínimos
cuadrados, dentro de la clase de estimadores lineales insesgados,
tienen varianza mínima, es decir, son MELI.

• Es decir, el estimador de MCO , cumple lo siguiente:

I. Es lineal, es decir, función lineal de una variable aleatoria, como la variable
dependiente Y en el modelo de regresión.
II. Es insesgado, es decir, su valor promedio o esperado, es igual al valor verdadero.
III. Tiene varianza mínima dentro de la clase de todos los estimadores lineales
insesgados; un estimador insesgado con varianza mínima se conoce como estimador
eficiente.

• Por lo tanto, los estimadores de MCO son MELI.

Coeficiente de determinación
• Hasta ahora, se han obtenido unos estimadores (los ) que minimizan
la suma de errores al cuadrado.
• Ahora, una vez hecha la estimación, podremos ver en qué medida la
recta de regresión muestral se ajusta a los datos.
• Una medida que indique el grado de ajuste de la recta de regresión
muestral con los datos se denomina medida de bondad del ajuste.
• La medida más conocida es el coeficiente de determinación o R
cuadrado.
Partición de la variación de en dos componentes

෍ 𝑦𝑖2 = ෍ 𝑦ො
2
𝑖 + ෍ 𝑢
ො 2
𝑖

𝑺𝑪𝑻 = 𝑺𝑪𝑬 + 𝑺𝑪𝑹 … . . ሺ3.5.3ሻ

Coeficiente de determinación (muestral)
• El se define de la siguiente forma:
2
𝑺𝑪𝑬 σ ෠ ത
൫𝑌𝑖 − 𝑌 ൯
2
𝑟 = = … . . ሺ3.5.5ሻ
𝑺𝑪𝑻 σ ሺ𝑌𝑖 − 𝑌തሻ 2

• El mide la proporción o el porcentaje de la variación total

en Y explicada por el modelo de regresión.
Propiedades del
i. Es una cantidad no negativa, es decir

ii. El está acotado entre 0 y 1,

o
Casos extremos
• Sí , tenemos un ajuste perfecto, es decir,
• Sí no existe relación entre las variables dependiente e independiente, por lo
que,
Coeficiente de determinación
• Otra fórmula alternativa, que facilita el cálculo de la es

σ 2
ሺ 𝑥 𝑦
𝑖 𝑖 ሻ
𝑟2 =
σ 𝑥𝑖2 σ 𝑦𝑖2

• Observación. En muchos casos, se obtiene un elevado cuando se

ajusta un modelo utilizando datos de series de tiempo, debido al
efecto de una tendencia común. Por el contrario, cuando utilizamos
datos de corte transversal es frecuente obtener valores bajos...
 Interpretación del
Modelo Simple de Consumo-Ingreso
140

C^ i  24.45  0.51Yi
2
r  0.9621
120
Consumo

100

El significa que, alrededor del 96% de la

80

variación en el consumo, se explica por la

variación en el ingreso.

100 150 200 250

Ingreso
Fuente: Gujarati, 5a. ed.
Coeficiente de correlación (muestral)
• El coeficiente de correlación , es una medida del grado de asociación
entre dos variables.

• Se obtiene, a partir de,

Algunas propiedades del Coeficiente de correlación
i. El está acotado entre -1 y 1,
o

ii. Es simétrico, es decir, el coeficiente de correlación entre y es el

mismo que entre y .

iii. Una correlación igual a cero no necesariamente implica

independencia.

iv. Es una medida de asociación lineal o dependencia lineal solamente;

su uso en la descripción de relaciones no lineales no tiene significado.
Patrones de correlación entre dos variables y
Recapitulando…
• El MRL se basa en un conjunto de supuestos.
• Con base en estos supuestos, los estimadores de mínimos cuadrados adquieren
ciertas propiedades resumidas en el teorema de Gauss-Markov, el cual plantea
que dentro de la clase de estimadores lineales insesgados, los estimadores de
mínimos cuadrados tienen una varianza mínima. En resumen, son MELI.
• La precisión de los estimadores de MCO se mide por sus errores estándar.
Veremos que los errores estándar permiten hacer inferencias sobre los
parámetros poblacionales, los coeficientes β.
• La bondad del ajuste general del modelo de regresión se mide con el coeficiente
de determinación, . Éste indica qué proporción de la variación en la variable
dependiente, se explica por la variable explicativa; el , se sitúa entre 0 y 1; entre
más cerca esté de 1, mejor será el ajuste.
• Un concepto relacionado con el coeficiente de determinación es el coeficiente de
correlación, . Es una medida de asociación lineal entre dos variables y su valor se
encuentra entre −1 y +1.