Introducci on

Modelos intrnsecamente lineales

Variables Dicotomicas
Modelos intrnsecamente no lineales
Optimizacion lineal
Modelos No Lineales
Econometr

a II
L.Econom

a
Dpto. de Metodos Cuantitativos para la Economa y la Empresa
Curso 2011/2012
Modelos No Lineales
Introducci on
Modelos intrnsecamente lineales
Variables Dicotomicas
Modelos intrnsecamente no lineales
Optimizacion lineal

Indice de Contenidos
1
Introducci

on
2
Modelos intr

nsecamente lineales
3
Variables Dicot

omicas
4
Modelos intr

nsecamente no lineales
Metodo de desarrollo en serie de Taylor
5
Optimizaci

on lineal
Newton-Raphson y Gauss-Newton
Modelos No Lineales
Introducci on
Modelos intrnsecamente lineales
Variables Dicotomicas
Modelos intrnsecamente no lineales
Optimizacion lineal
Introducci

on
Dentro de la teora econ omica es habitual encontrarnos en situaciones en el que los
modelos utilizados para describir relaciones entre variables suelen venir descritos por
expresiones no lineales.
En estas situaciones el metodo de mnimos cuadrados ordinarios suele presentar
inconvenientes debido a la no linealidad existente en los par ametros.
Ejemplo
1
y
t
=
1
+
2
e
x
2t
+
3
x
3t
x
4t
+ u
t
2
y
t
=
1
+
2
x

3
t
+ u
t
Observando con detenimiento los ejemplos considerados se tiene que, si se realiza el
cambio de variable z
2t
= e
x
2t
y z
3t
= x
3t
x
4t
sobre el ejemplo 1, este adopta una forma
lineal,
y
t
=
1
+
2
z
2t
+
3
z
3t
+ u
t
.
Sin embargo, el ejemplo 2 no puede ser tratado como un modelo lineal debido a la
estructura que este presenta.
Luego, teniendo en cuenta los comentarios realizados, a la hora de estudiar los
modelos no lineales se distinguir an:
Modelos intrnsecamente lineales.
Modelos intrnsecamente no lineales.
Modelos No Lineales
Introducci on
Modelos intrnsecamente lineales
Variables Dicotomicas
Modelos intrnsecamente no lineales
Optimizacion lineal
Modelos intr

nsecamente lineales
Los modelos intrnsecamente lineales surgen cuando, en un modelo no lineal en
par ametros, existe alguna transformaci on sobre los parametros tal que nos permite
describir un modelo lineal (Ejemplo 1).
Cuando no se conoce el cambio a realizar se recurrir a al metodo Box-Cox, a partir del
cual podremos determinar el tipo de transformaci on a realizar. La transformaci on
Box-Cox consiste en describir una nueva variable y() utilizando la transformaci on (1)
sobre la variable Y (o variables).
y() =
_
y

= 0
ln(y) = 0
(1)
El cambio (1) queda determinado en funci on del par ametro
1
.
En este apartado centraremos nuestra atenci on en las relaciones de dos variables, Y y
X, las cuales se ajustan mediante el Modelo Box-Cox y(
1
) =
0
+
0
x(
2
) + u,
donde se considera que
y(
1
) =
_
y

1
1

1
= 0
ln(y)
1
= 0
x(
2
) =
_
x

2
1

2
= 0
ln(x)
2
= 0
1
En algunas ocasiones el parametro sera conocido y en otras ocasiones tendra que ser estimado
por maxima verosimilitud
Modelos No Lineales
Introducci on
Modelos intrnsecamente lineales
Variables Dicotomicas
Modelos intrnsecamente no lineales
Optimizacion lineal
Relaci

on entre los modelos intr

nsecamente lineales y el Modelo

Box-Cox
Comprobar la relaci on existente entre el modelo Box-Cox y los modelos
intrnsecamente lineales en funci on de los valores que tomen los par ametro
1
,
2
.
Si
1
=
2
= 1 entonces se obtiene el modelo lineal y = + x + u
Si
1
=
2
= 0 se describe el modelo doblemente logartmico
y = x

e
u
Si
1
= 0 y
2
= 1 entonces el modelo Box-Cox coincide con el modelo
semilogartmico en y,
y = e
+x+u
Si
1
= 1 y
2
= 0 el modelo Box-Cox queda reducido al modelo semilogartmico
en x,
y = + ln x + u
Si
1
= 1 y
2
= 1 entonces se obtine el modelo hiperb olico,
y = +
1
x
+ u
Si
1
= 0 y
2
= 1 el modelo coincide con el modelo recproco-logartmico,
y = e

x
+u
Modelos No Lineales
Introducci on
Modelos intrnsecamente lineales
Variables Dicotomicas
Modelos intrnsecamente no lineales
Optimizacion lineal
Modelo doblemente logar

tmico y = x

e
u
0.5 1 1.5 2
1
2
3
4
5
6
7
Figura: Doblemente Logartmico con
= 0,6
0.5 1 1.5 2
0.2
0.4
0.6
0.8
1
1.2
1.4
Figura: Doblemente Logartmico con
= 0,6
0.5 1 1.5 2
0.5
1
1.5
2
Figura: Doblemente Logartmico con
= 1
0.5 1 1.5 2
1
2
3
4
Figura: Doblemente Logartmico con
= 2
Modelos No Lineales
Introducci on
Modelos intrnsecamente lineales
Variables Dicotomicas
Modelos intrnsecamente no lineales
Optimizacion lineal
Modelo semilogar

tmico en y y = e
+x+u
, y semilogar

tmico en x y = + ln x + u
0.5 1 1.5 2
1.25
1.5
1.75
2
2.25
2.5
2.75
Figura: Semilogartmico en y con
= 0,6
0.5 1 1.5 2
4
5
6
7
8
9
Figura: Semilogartmico en y con = 0,6
0.5 1 1.5 2
0.75
1.25
1.5
1.75
2
2.25
Figura: Semilogartmico en x con
= 0,6
0.5 1 1.5 2
-6
-5
-4
-3
-2
-1
Figura: Semilogartmico en x con = 0,6
Modelos No Lineales
Introducci on
Modelos intrnsecamente lineales
Variables Dicotomicas
Modelos intrnsecamente no lineales
Optimizacion lineal
Modelo hiperb

olico y = +
1
x
+ u y rec

proco-logar

tmico y = e

1
x
+u
0.5 1 1.5 2
-5
-4
-3
-2
-1
Figura: Recproco o hiperb olico con
= 0,6
0.5 1 1.5 2
10
20
30
40
50
60
70
Figura: Recproco o hiperb olico con
= 0,6
0.5 1 1.5 2
100
200
300
400
500
Figura: Recproco-logartmico con
= 0,6
0.5 1 1.5 2
0.2
0.4
0.6
0.8
Figura: Recproco-logartmico con
= 0,6
Modelos No Lineales
Introducci on
Modelos intrnsecamente lineales
Variables Dicotomicas
Modelos intrnsecamente no lineales
Optimizacion lineal
Ejercicio
En cuatro regiones dedicadas al cultivo de cacao, se observo el area cultivada (X), en
hect areas y la producci on obtenida (Y), en cientos de Kilogramos.
X 22 38 50 76
Y 3 11 34 100
Obtener un modelo doblemente logartmico que nos permita conocer la producci on a
partir del area cultivada.
Definici

on
Se dene la ELASTICIDAD como la variaci on porcentual de una variable x en
relaci on a otra variable y. Se dice que la relaci on entre la variable dependiente y y la
variable independiente x es El

astica cuando la variable dependiente y vara en mayor

cantidad a la de la variable independiente x. Por el contrario, si la variaci on de la
variable independiente x es mayor a la de y, la relaci on es Inel

astica.
Matem aticamente, la elasticidad se puede expresar como:
E[y, x] =
x
y
y
x
Ejercicio
Calcular la elasticidad de y respecto de x para cada uno de los modelos presentados.
Modelos No Lineales
Introducci on
Modelos intrnsecamente lineales
Variables Dicotomicas
Modelos intrnsecamente no lineales
Optimizacion lineal
Variables dicot

omicas
En algunas ocasiones nos podemos encontrar situaciones en los que un modelo
econometrico puede incluir variables de tipo cualitativo. Este tipo de variables suelen
ser empleadas para describir acontecimientos extraordinarios como por ejemplo los
cambios polticos, crisis,...
Debido a que estas variables indican la presencia o no de un atributo se recurre al uso
de variables cticias, denominadas tambien como variables dummy.
La principal caracterstica que presentan estas variables es que generalmente suelen
tomar los valores
1 (en presencia de la cualidad),
y 0 (en ausencia de la cualidad).
Ejemplo
1 ser hombre y 0 ser mujer
1 tener estudios superiores y 0 no tener estudios superiores.
En el caso particular en el que las variables dummy toman unicamente los valores 0 y
1 tambien son conocidas por variables dicotomicas.
Modelos No Lineales
Introducci on
Modelos intrnsecamente lineales
Variables Dicotomicas
Modelos intrnsecamente no lineales
Optimizacion lineal
Variables dicot

omicas. Regresi

on por tramos
Cuando en la representaci on gr aca de un conjunto de variables se maniesta uno o
varios cambios de pendiente es habitual recurrir a la regresi on por tramos.














2 6
En la gura se observa que entre la variables existe una relaci on de tipo lineal desde el
primer valor de la variable hasta x

1
= 2, desde x

1
= 2 hasta x

2
= 6, y por ultimo
desde x

2
= 6 hasta el nal. Luego, a la hora de realizar el ajuste habr a que tener
presente los puntos de uni on entre las tres rectas que se describen, x

1
y x

2
.
Por tanto, el modelo ajustado adoptar a la expresi on
y
t
=
1
+
2
x
t
+
3
(x
t
x

1
) D
1t
+
4
(x
t
x

2
) D
2t
+ u
t
donde D
1t
=
_
1 x

1
x
t
< x

2
0 en otro caso
D
2t
=
_
1 x

2
x
t
0 en otro caso
Modelos No Lineales
Introducci on
Modelos intrnsecamente lineales
Variables Dicotomicas
Modelos intrnsecamente no lineales
Optimizacion lineal
Dependiendo de los valores que tomen las variables cticias se tiene como valores
esperados de y:
Primer tramo
E
_
y
t
|D
1t
= 0, D
2t
= 0, x
t
, x

1
, x

2
_
=
1
+
2
x
t
Segundo tramo
E
_
y
t
|D
1t
= 1, D
2t
= 0, x
t
, x

1
, x

2
_
=
_

3
x

1
_
+ (
2
+
3
) x
t
Tercer tramo
E
_
y
t
|D
1t
= 0, D
2t
= 1, x
t
, x

1
, x

2
_
=
_

4
x

2
_
+ (
2
+
4
) x
t
Para estudiar la signicaci on de los coecientes se recurre al contraste
_
H
0
:
j
= 0
H
1
:
j
= 0
cuyo estadstico de contraste viene determinado por la expresi on
t
exp
=

j
S

j
Si |t
exp
| > t
nk,

2
entonces se rechaza la hip otesis nula y por tanto el coeciente es
signicativo.
2
2
N otese que n hace referencia al tama no muestral y k al n umero de parametros.
S
2
e
=
SCR
nk
=
Y

Y
nk
y S

= S
2
e
_
X

X
_
1
Modelos No Lineales
Introducci on
Modelos intrnsecamente lineales
Variables Dicotomicas
Modelos intrnsecamente no lineales
Optimizacion lineal
Ejercicio
Una empresa de mensajera utiliza la siguiente tabla de comisiones y viajes realizados
diariamente por sus repartidores:
Comisi on 1.5 2 2.5 3 4 6 8 10
Viajes 3 4 5 6 7 8 9 10
1
Estime el modelo de regresi on por tramos suponiendo que para 6 viajes diarios la
pendiente de las comisiones sufre un cambio.
2
Contrastar si es signicativa la estructura de comisiones de los repartidores que
realizan m as de 6 viajes al da.
Modelos No Lineales
Introducci on
Modelos intrnsecamente lineales
Variables Dicotomicas
Modelos intrnsecamente no lineales
Optimizacion lineal
Metodos de Mnimos Cuadrados No Lineales
Metodo de desarrollo en serie de Taylor
Modelos intr

nsecamente no lineales
Modelos intrnsecamente no lineales Realizando transformaciones sobre los modelos
introducidos en la secci on anterior se conseguan describir modelos linealizados. El
problema se presenta cuando la transformaci on a realizar no es tan evidente, no
consiguiendo as poder realizar la estimaci on de los parametros del modelo.
La no linealidad que se encuentra en el sistema de ecuaciones normales, utilizadas para
la estimaci on de los par ametros, de los modelos intrnsecamente no lineales suelen
presentar ciertos problemas de resoluci on, recurriendo para este n a metodos
numericos.
Los metodos m as empleados en la estimaci on de modelos intrnsecamente no lineales
son:
1
Mnimos Cuadrados No Lineales.
2
Metodo del desarrollo en serie de Taylor.
3
Metodo de M axima Verosimilitud.
En nuestro caso, se centrar a la atenci on en los dos primeros metodos.
Modelos No Lineales
Introducci on
Modelos intrnsecamente lineales
Variables Dicotomicas
Modelos intrnsecamente no lineales
Optimizacion lineal
Metodos de Mnimos Cuadrados No Lineales
Metodo de desarrollo en serie de Taylor
M

etodos de M

nimos Cuadrados No Lineales

El metodo de Mnimos Cuadrados No Lineales, al igual que su hom ologo lineal,
consiste en minimizar el sumatorio de los errores del modelo al cuadrado, es decir:
mn

SCR() =
n

t=1
e
2
t
=
n

t=1
[y
t
f (x
t
; )]
2
3
Luego, los pasos a realizar son:
1
o
paso. Se realiza la derivada de la expresi on anterior con respecto a cada
uno de los par ametros contenidos en el vector de par ametros e
igualando a cero, cada una de las derivadas, se obtienen las
expresiones correspondientes a las ecuaciones normales. A partir de
las ecuaciones normales se obtendr an las estimaciones de cada uno
de los par ametros que describen al modelo.
SCR()

= 2
n

t=1
[y
t
f (x
t
; )]
f (x
t
; )

= 0
2
o
paso. Se comprueba que la matriz

2
SR()

es denida positiva.
Ejercicio
Obtener el sistema de ecuaciones normales del modelo no lineal y
t
=
1
+ x

2
t
+ u
t
.
3
N otese que hace referencia al vector de parametros.
Modelos No Lineales
Introducci on
Modelos intrnsecamente lineales
Variables Dicotomicas
Modelos intrnsecamente no lineales
Optimizacion lineal
Metodos de Mnimos Cuadrados No Lineales
Metodo de desarrollo en serie de Taylor
M

etodo de desarrollo en serie de Taylor

Utilizando el desarrollo en serie de Taylor de primer orden, se consigue linealizar una
funci on de la forma y
t
= f (x
t
, ) + u
t
con t = 1, 2, . . . , n, entorno a la estimaci on
inicial de

0
:
y
t

= f (x
t
,

0
) +
_
f (x
t
,

0
)

0
_
(

0
) + u
t
(2)
deniendo z
_

0
_
=
_
f (x
t
,

0
)

0
_

la expresi on (2) queda descrita por

y
t

= f (x
t
,

0
) + z
_

0
_
(

0
) + u
t
(3)
y
t
f (x
t
,

0
) + z
_

0
_

0

= z
_

0
_
+ u
t
(4)
Considerando y
t
f (x
t
,

0
) + z
_

0
_

0
= y

t
en (4) esta queda denida por
y

t

= z
_

0
_
+ u
t
(5)
de donde, el estimador mnimo cuadr atico adopta la expresi on

=
_
z
_

0
_

z
_

0
_
_
1
z
_

0
_

t
(6)
Modelos No Lineales
Introducci on
Modelos intrnsecamente lineales
Variables Dicotomicas
Modelos intrnsecamente no lineales
Optimizacion lineal
Metodos de Mnimos Cuadrados No Lineales
Metodo de desarrollo en serie de Taylor
Pasos a realizar
1
Plantear una aproximaci on numerica inicial de

0
.
2
Generar las observaciones numericas para las variables y

t
y z
_

0
_
.
3
Estimar el modelo (5) por MCO obteniendo nuevas estimaciones numericas para

.
4
Con esas estimaciones calculamos de nuevo las variable y

t
y z
_

0
_
e iteramos
el proceso hasta alcanzar convergencia.
Ejercicio
Obtener la aproximaci on lineal mediante el desarrollo en serie de Taylor del modelo
y
t
= x
1t
+
2
x
2t
+ u
t
.
Ejemplo
Aplicando el metodo de desarrollo en serie de Taylor, la aproximaci on lineal del modelo
y
t
= x
1t
+
2
x
2t
+ u
t
.
Modelos No Lineales
Introducci on
Modelos intrnsecamente lineales
Variables Dicotomicas
Modelos intrnsecamente no lineales
Optimizacion lineal
Newton-Raphson y Gauss-Newton
Optimizaci

on No Lineal: Algoritmo de Newton-Raphson y Gauss-Newton

Una de las dicultades presentes en la estimaci on de un modelo no lineal consiste
principalmente en hallar la soluci on o soluciones al sistema de ecuaciones normales
presentado en el metodo de mnimos cuadrados no lineales.
Por este motivo, y ante esta situaci on, se recurre a la utilizaci on de algoritmos de
optimizaci on de la funci on objetivo propuesta.
Tales procedimientos son algoritmos iterativos, comenzando cada iteraci on con el valor
aproximado de la soluci on que se obtuvo en la iteraci on anterior. El proceso se repite
de forma iterativa hasta que la soluci on converge al verdadero valor del par ametro. Sin
embargo, hay que destacar que no en todos los casos se consigue esa deseada
convergencia.
A continuaci on se describir an dos de los algoritmos empleados para tal n:
Algoritmo de Newton-Raphson.
Algoritmo de Gauss-Newton.
Algoritmo de Newton-Raphson. El algoritmo de Newton-Raphson es un metodo de
estimaci on basado en minimizar la suma de cuadrados de los residuos. En un primer
paso se aproxima, mediante la serie de Taylor de segundo orden, la funci on SCR()
entorno a un punto inicial

0
.
Modelos No Lineales
Introducci on
Modelos intrnsecamente lineales
Variables Dicotomicas
Modelos intrnsecamente no lineales
Optimizacion lineal
Newton-Raphson y Gauss-Newton
Algoritmo de Newton-Raphson
Algoritmo de Newton-Raphson El algoritmo de Newton-Raphson es un metodo de
estimaci on basado en minimizar la suma de cuadrados de los residuos. En un primer
paso se aproxima, mediante la serie de Taylor de segundo orden, la funci on SCR()
entorno a un punto inicial

0
.
SCR() SCR(

0
)+
_
SCR()

0
_

0
_
+
1
2
_

0
_

2
SCR()

0
_

0
_
(7)
Como la idea que se persigue es minimizar la expresi on asociada a la suma de los
cuadrados de los residuos, derivamos la aproximaci on realizada con respecto a cada
uno de los par ametros que intervienen en la funci on objetivo y se iguala a cero.
Luego, si realizamos la derivada de SCR() con respecto a los par ametros del modelo,
se tiene:
SCR()

=
_
SCR()

0
+
_

2
SCR()

0
_

0
_
(8)
As pues, con el objeto de buscar los mnimos de dicha expresi on, se iguala la derivada
a cero, describiendo la ecuaci on:
_
SCR()

0
+
_

2
SCR()

0
_

0
_
= 0 (9)
Modelos No Lineales
Introducci on
Modelos intrnsecamente lineales
Variables Dicotomicas
Modelos intrnsecamente no lineales
Optimizacion lineal
Newton-Raphson y Gauss-Newton
Algoritmo de Newton-Raphson
De donde se tiene, despejando el vector de par ametros, , que
_

2
SCR()

0
_

0
_
=
_
SCR()

0
_

0
_
=
_

2
SCR()

_
1

0
_
SCR()

2
SCR()

_
1

0
_
SCR()

0
(10)
As pues, realizando el proceso de forma iterativa, se describe la i -esima iteraci on del
algoritmo por:

i+1
=

2
SCR()

_
1

i
_
SCR()

i
(11)
Modelos No Lineales
Introducci on
Modelos intrnsecamente lineales
Variables Dicotomicas
Modelos intrnsecamente no lineales
Optimizacion lineal
Newton-Raphson y Gauss-Newton
Algoritmo de Gauss-Newton
Algoritmo de Gauss-Newton El algoritmo de Gauss-Newton es muy similar al
algoritmo de Newton-Raphson. La principal diferencia existente entre ambos
algoritmos es que la aproximaci on de la funci on viene denida mediante el desarrollo
en serie de Taylor de primer orden.
f (x
t
, ) = f (x
t
,

0
) +
_
f (x
t
,

0
)

0
_
(

0
) + u
t
donde f (x
t
, ) representa la funci on a estimar. Luego, la expresi on que se tiene para el
algoritmo de Gauss-Newton vendra dada por la expresi on:

i +1
=

i
+
_
n

t=1
_
f (x
t
, )

__
f (x
t
, )

_
1

i
_
n

t=1
_
f (x
t
, )

_
u
t
_

i
(12)
donde u
t
= y
t
f (x
t
,

0
).
Modelos No Lineales
Introducci on
Modelos intrnsecamente lineales
Variables Dicotomicas
Modelos intrnsecamente no lineales
Optimizacion lineal
Newton-Raphson y Gauss-Newton
Ejercicio
1
Obtener el sistema de ecuaciones del algoritmo Newton-Raphson de la funci on:
y
t
= e
x
t
+ u
t
Considerando

0
= 0 obtener la expresi on de la primera iteraci on del algoritmo.
2
Sea el modelo no lineal y
t
= x

1
1t
+ x

2
2t
+ u
t
, describa la primera iteraci on
correspondiente al algoritmo de Newton-Raphson considerando

1
0
= 0 y

2
0
= 0.
Ejercicio
1
Obtener el sistema de ecuaciones del algoritmo Gauss-Newton de la funci on:
y
t
= e
x
t
+ u
t
Considerando

0
= 0 obtener la expresi on de la primera iteraci on del algoritmo.
2
Sea el modelo no lineal y
t
= x

1
1t
+ x

2
2t
+ u
t
, describa la primera iteraci on
correspondiente al algoritmo de Gauss-Newton considerando

1
0
= 0 y

2
0
= 0.
Modelos No Lineales