REGRESIN LINEAL

Regresin Lineal Simple

Planteamiento

El comportamiento de una magnitud econmica puede ser

explicada a travs de otra

Y = F(X )
Si se considera que la relacin puede ser de tipo lineal, la
formalizacin vendra determinada por una ecuacin como la
siguiente

Y = 1 + 2 X

Regresin Lineal Simple

Planteamiento

Dado que las relaciones en la ciencias sociales no son exactas se

incluye el trmino de pertubacin aleatoria

Y = 1 + 2 X + U
Supongamos que se dispone de T observaciones de las
variable Y y X

Y1 = 1 + 2 X 1 + u1
Y2 = 1 + 2 X 2 + u 2

Yn = 1 + 2 X n + un

Regresin Lineal Simple

Planteamiento

De forma abreviada el sistema de ecuaciones se puede escribir

de la siguiente manera

Yt = 1 + 2 X t + U t
t = 1, 2, 3.,T.

Regresin Lineal Simple

Planteamiento

El objetivo del anlisis de regresin es la estimacin de los

parmetros.
El primer paso es la representacin grfica de las variables (y,x)
en un diagrama de dispersin
Relacin Lineal Exacta

Relacin Lineal Exacta

14

12

12

10

10

14

2
0

0
0

6
X

10

6
X

10

Regresin Lineal Simple

Planteamiento

Dado que la relacin de dependencia entre ambas variables es

aleatoria o estocstica, las observaciones no se encontrarn a lo
largo de una recta
Regresion Lineal Simple

La estimacin de los
parmetros
supone
encontrar la ordenada en
el origen y la pendiente
de una recta que mejor
se aproxime a los puntos

18
16
14

12
10
8
6
4
2
0
0

6
X

10

Regresin Lineal Simple

Planteamiento

Recta de Regresin Especificada

Yt = 1 + 2 X t + U t
Recta de Regresin Estimada

Yt = 1 + 2 X t
Errores o residuos

u t = Yt Yt = 1 2 X t

Regresin Lineal Simple

Criterios de Ajuste

a) La suma de todos los residuos sean prximas a cero

T

Minimizar

u
t =1

b) La suma de todos los residuos en trminos absolutos sean prximas

a cero
Minimizar

n
t =1

u t

c) La suma de todos los residuos elevados al cuadrado sean prximas a

cero
Minimizar

u
t =1 t

Regresin Lineal Simple

Obtencin de los estimadores

Los estimadores se obtienen aplicando el criterio de minimizacin de la suma cuadrtica de los errores

u =

2
t
t =1

S =
t =1

Yt Yt

) = (Y X )
2

t =1

Para minimizar S se derivar la funcin respecto de cada uno de los parmetros

n
S
= 2 (Yt 1 2 X t ) = 0

t =1
1

n
S
= 2 (Yt 1 2 X t )X t = 0

t =1
2

Regresin Lineal

Obtencin de los estimadores

Operando y reagrupando trminos se obtendra, la expresin analtica de los estimadores mnimo-cuadrticos de la

regresin lineal simple:

1 = Y 2 X

Cov (Y , X )

2 =
var( X )

En el caso de un modelo de regresin lineal mltiple, las expresiones anteriores se transformaran del siguiente modo:

1 = Y 2 X 2 3 X 3

Cov (Y , X 2 ) 3 Cov ( X 2 , X 3 )

2 =
var( X 2 )

Cov (Y , X 3 ) 2Cov( X 3 , X 2 )

3 =
var( X 3 )

Modelo Lineal Bsico

Hiptesis

Forma funcional

Sobre la perturbacin Aleatoria

Sobre las variables independientes

Sobre el vector de parmetros

Modelo Lineal Bsico

Hiptesis

 Forma funcional

Yt = 1 + 2 X 2 t + 3 X 3t + 4 X 4 t + LLL + k X kt + ut
a) La relacin entre la variable dependiente y las variables
independientes es tipo lineal. La incorporacin del trmino de
perturbacin aleatoria de forma aditiva, garantiza a su vez la relacin
lineal con el resto de elementos

Modelo Lineal Bsico

Hiptesis

 Sobre la perturbacin aleatoria

a) La perturbacin aleatoria es una variable aleatoria no observable
La perturbacin aleatoria representa el conjunto de variables que a
tono individual poseen un efecto irrelevante, no obstante, el efecto
total recogido por esta no es desdeable. Adicionalmente representa
la aleatoriedad intrnseca del comportamiento humano, con lo que
dicha variable toma valores siguiendo una distribucin de
probabilidades
Dado que la variable dependiente es una combinacin lineal del
trmino de perturbacin aleatoria sta constituye igualmente una
variable aleatoria

Modelo Lineal Bsico

Hiptesis

 Sobre la perturbacin aleatoria

b) El promedio es igual a cero.
Los efectos individuales de las variables incluidas en el trmino de
pertubacin aleatoria tienden a compensarse.
b) Son homoscedsticas.
Las poblaciones de Y dado los distintos valores de X tienen la
misma varianza

Modelo Lineal Bsico

Hiptesis

 Sobre la perturbacin aleatoria

d) No existe autocorrelacin entre las perturbaciones.
Supone que las perturbaciones correspondientes a distintos
unidades o perodos del tiempo no estn relacionadas entre si
e) Se distribuye como una variable normal.
Dado que la perturbacin aleatoria incluye un amplio grupo de
variables omitidas de forma explcita en el modelo de regresin
lineal, que son independientes entre si, apoyndose en el teorema
de lmite central se asume que el vector de las perturbaciones
corresponde a una variable normalmente distribuida.

Modelo Lineal Bsico



Hiptesis
Sobre las variables exgenas.
a) Los valores de las variables independientes son fijos en
muestreos repetidos.
b) No hay multicolinealidad perfecta. No hay relacin perfecta entre
las variables

Sobre el vector de parmetros.

a) Las betas son valores fijos. Lo que supone estabilidad en la
estructura del fenmeno estudiado.

Modelo Lineal Bsico

Hiptesis

 Otras hiptesis
a) El modelo est correctamente especificado.
b) Se dispone de informacin estadstica suficiente, como mnimo n>K.
En general para tres variables independientes se necesita 15
observaciones.

Modelo Lineal Bsico

Interpretacin de los coeficientes

Si las variables introducidas estn expresadas en niveles
Yt

jt =
X jt

Representa el cambio en la variable dependiente

ante un cambio unitario en la variable j,
permaneciendo el resto de factores constantes

Si las variables introducidas estn expresadas en logaritmos

log Yt

jt =
log X jt

Representa el cambio relativo en la variable

dependiente ante un cambio en un 1% en la variable j,
permaneciendo el resto de factores constantes

Modelo Lineal Bsico

Interpretacin de los coeficientes

Si las variables introducidas estn expresadas en la

misma unidad de medida (tipificadas)

* jt

Representa la importancia relativa que tiene cada una

de las variables en la explicacin de la variable
dependiente.

Relacin entre los parmetros estimados con las variable expresadas

en niveles y en la misma unidad de medida (tipificadas).

x j

* jt = jt
y

Donde:

x j
y

Corresponde al cociente de las

desviaciones tpicas de la variable
independiente j y de la variable
dependiente y