El modelo clsico de

regresin

El modelo

Suponemos que el comportamiento de una variable

endgena Y puede ser explicado por k variables
exgenas:
Y=0+1X1++kXk+ui

donde,

j son parmetros fijos

Xk variables explicativas o exgenas (no estocsticas)
ui es una perturbacin aleatoria

El modelo tiene una parte determinista y una

aleatoria
Dto. Economa Aplicada Cuantitativa I

Hiptesis bsicas

H1: El modelo est bien especificado (incorpora todas

las variables relevantes; la relacin es lineal; los
parmetros son constantes)
H2: X es una matriz no estocstica, de rango completo
H3: Los errores tienen media nula: E[ui] = 0, i
H4: Homoscedasticidad: var[ui] = cte = 2, i
H5: No autocorrelacin: cov(uiuj) = 0, i j
H6: ui se distribuye como una normal, N(0, 2)

Dto. Economa Aplicada Cuantitativa I

Estimacin

En la prctica se dispone de un conjunto de n

observaciones de cada una de las variables del modelo
Se trata de estimar los parmetros poblacionales
(desconocidos) a partir de esa muestra.
El criterio mnimo cuadrtico elige esos estimadores de
forma que la suma cuadrtica residual, dt2, sea mnima.
donde dt = Yb0 b1X1t bkXkt y bi son los estimadores

de los parmetros poblacionales i (otra notacin i )

Es decir, debemos encontrar los bi tales que dt2= dTd sea
mnimo
La solucin de este problema conduce a b =(XX)-1XY,
siendo bT= (b0, b1, , bk) el vector de los estimadores
Dto. Economa Aplicada Cuantitativa I

Estimacin
X
Y
11
1
X12
Y2
Y , X
...
...
X
Y
n
1n

X 21
X 22
...
X 2n

X12

X X
b ( X'X)1 X'Y 2 1

b

u
... X k1
1
1
1

b
2
... X k 2
u2
, ,u , b 2
...
... ...
...
...


u
... X kn
k
bk
k

X1 X 2
X 22

X1 X k
X2Xk

2
Xk

Dto. Economa Aplicada Cuantitativa I

YX1

YX
2

YX k

Propiedades

Los estimadores MCO tienen, bajo las

hiptesis bsicas, buenas propiedades
estadsticas:
Son

insesgados
Son eficientes (mnima varianza entre los de
su clase)
Son consistentes

Dto. Economa Aplicada Cuantitativa I

Estimadores sesgados/insesgados

400

425

450

475

500

525

550

575

600

400

425

450

475

500

525

550

575

600

Dto. Economa Aplicada Cuantitativa I

Estimadores consistentes
2.0

2.0
n=100

n=100
1.6

1.6

1.2

1.2

0.8

0.8

0.4

0.4

n=50
0.0

n=50

n=10

n=10
0.0

Dto. Economa Aplicada Cuantitativa I

Bondad del ajuste.

2
R

Mide lo bien (o mal) que la regresin muestral se ajusta

a la nube de puntos
Se utiliza el coeficiente de determinacin, que es el
cociente entre la variacin explicada y la total (R2)
Sabemos que d = Y o Y = +d de donde,
var(Y) = var()+var(d), pues cov(,d) = 0
Es decir, la variacin total debe ser igual a la explicada
ms la residual. El coeficiente R2 se define como,
var(Y )
var(d )
R
1
var(Y )
var(Y )
2

Dto. Economa Aplicada Cuantitativa I

Bondad del ajuste.

2
R

De var(Y) = var()+var(d) puede deducirse

2
1 n
1 n
Yt Y Yt Y

n t 1
n t 1

n
n
2
1 n 2
dt Yt Y Yt Y
n t 1
t 1
t 1

d
2

t 1

2
t

SCT = SCE + SCR

Y calcular,
SCE bT XTY nY 2
R
T
,
SCT
Y Y nY 2
2

R2 1

SCR
SCT

El coeficiente de determinacin vara entre 0 (ajuste

nulo) y 1 (ajuste perfecto)
Multiplicado por 100 se interpreta como el porcentaje de
la variacin de Y que es explicada por la regresin
Dto. Economa Aplicada Cuantitativa I

10

R2 corregido

R2 es una funcin no decreciente del n de

variables explicativas
La adicin de variables siempre hace que
aumente (o al menos no disminuya) R2
Pero no tendra sentido incluir variables
indiscriminadamente
Para ello se ha desarrollado el coeficiente de
determinacin corregido,

Dto. Economa Aplicada Cuantitativa I

11

R2 corregido

La adicin de variables siempre hace que

aumente (o al menos no disminuya) R2
Pero no tendra sentido incluir variables sin fin
El coeficiente de determinacin corregido, que
penaliza la adicin de nuevas variables
R

1
y

2
i
2
i

/(n k )
n 1
1 (1 R2 )
/(n 1)
nk

Dto. Economa Aplicada Cuantitativa I

12

R2 corregido

Es siempre menor (o igual) que R2

Suele utilizarse para comparar regresiones con

diferentes variables explicativas (Y debe ser igual)

Hay otros criterios orientados a este fin: Criterio de

Informacin de Akaike, Criterio de Informacin de
Schwarz, Log de verosimilitud

Tambin hay que atender a las dems circunstancias:

signos de los estimadores, magnitud de los
estimadores, significatividad estadstica,

Dto. Economa Aplicada Cuantitativa I

13

Ejemplo

Volvamos al ejemplo del salario. Hay otras variables

adems de los aos de educacin que deben tener
relevancia.

Supongamos que nuestra especificacin es ahora,

Shi = 1+2Ei+3EXi +i

donde EXi es la experiencia laboral del trabajador

Podemos usar fcilmente la frmula b=(XX)-1XY

dado que con los datos de la muestra es inmediato
formar los productos cruzados de esas matrices.

Dto. Economa Aplicada Cuantitativa I

14

Ejemplo

La estimacin sera,
1

6608.0012
8950.9999 3101.3502 3.391
526
b 6608.0012 87040.0311 106539.0216 41140.6597 0.644
8950.9999 106539.0216 249026.9850 55747.0324 0.070

con = 3.391+0.644X1+0.07X2

Todos estos clculos se hacen hoy con algn programa

especializado

Excel, Gretl

Dto. Economa Aplicada Cuantitativa I

15

Ejemplo

La estimacin sera,
1

6608.0012
8950.9999 3101.3502 3.391
526
b 6608.0012 87040.0311 106539.0216 41140.6597 0.644
8950.9999 106539.0216 249026.9850 55747.0324 0.070

con = 3.391+0.644X1+0.07X2

Todos estos clculos se hacen hoy con algn programa

especializado

Excel, Gretl

Dto. Economa Aplicada Cuantitativa I

16

Formas funcionales

Hasta ahora hemos manejado solo formas funcionales

lineales. Adems hemos considerado la linealidad uno
de los supuestos bsicos

Sin embargo ese supuesto se refiere solo a la linealidad

en los parmetros, no en las variables. No hay dificultad
en estimar los modelos,

Y = 0+1X+2X2+u

Y= XZeu

Y = 0+1(1/X)+u

Dto. Economa Aplicada Cuantitativa I

17

Formas funcionales

Modelo
Lineal

Ecuacin
Yt =+Xt+Zt+

log-log

ln Yt =+lnXt+lnZt+

log-lin

lnYt =+Xt+Zt+

lin-log

Yt =+lnXt+lnZt+

Recproco

Yt =+ (1/Xt)+

Interpretacin

Si X = 1, Y =
Si X = 1%, Y = %
Si X = 1, Y = %
Si X = 1%, Y =
Si (1/X) = 1, Y =

Dto. Economa Aplicada Cuantitativa I

18

Ejemplo

Volvamos al modelo del salario pero estimemos ahora,

ln(Sal) = 0+1Educ+2Exper+u

Podis comprobar que la estimacin proporciona (Gretl),

Modelo 1: estimaciones MCO utilizando las 526 observaciones 1-526
Variable dependiente: log_WAGE
Variable
const
EDUC
EXPER

Coeficiente
0,216854
0,0979356
0,0103469

Desv. tpica Estadstico t

0,108595
1,9969
0,0076224
12,8484
0,00155514
6,6534

valor p
0,04635
<0,00001
<0,00001

**
***
***

Media de la var. dependiente = 1,62327

Desviacin tpica de la var. dependiente. = 0,531538
Suma de cuadrados de los residuos = 111,345
Desviacin tpica de los residuos = 0,461407
R2 = 0,249343
R2 corregido = 0,246473
Estadstico F (2, 523) = 86,8617 (valor p < 0,00001)

Dto. Economa Aplicada Cuantitativa I

19

Ejemplo

Los resultados significan que,

Un ao ms de educacin hace que se incremente el

salario/hora en un 9.8%, una vez tenida en cuenta la
experiencia laboral (mantenindola constante)
Anlogamente, un ao ms de experiencia laboral har que el
salario/hora crezca un 1%, considerando cte la eduacin
Ahora un ao ms de educacin (experiencia) no lleva a un
mismo incremento monetario del salario (solo el % de
incremento es igual)

El R2 indica que el 25% de la variacin del salario/hora,

puede explicarse por la variacin en Educ y Exper

Dto. Economa Aplicada Cuantitativa I

20