Breve sobre Kuhn-Tucker

Alejandro Lugon 20 de agosto de 2010

Resumen Se presentan a manera de manual de referencia los resultados relevantes para la soluci on de problemas de maximizaci on usando los resultados de Kuhn-Tucker.

1.

Problema b asico
Para el problema: M ax s.a. F ( x) gj (x) cj con j = 1, . . . , m (1)

con x Rn . Se forma el Lagrangiano:

m

L F ( x)
j =1

j (gj (x) cj )

(2)

para obtener las: Condiciones de Kuhn-Tucker (CKT) 1. L = 0 para cada i = 1, . . . , n xi

2. gj (x) cj para cada j = 1, . . . , m 3. j 0 para cada j = 1, . . . , m 4. Si gj (x) < cj entonces j = 0 para cada j = 1, . . . , m1

1.1.

Necesidad y suciencia de las CKT

Los resultados te oricos para el uso de estas condiciones se dan a continuaci on: Teorema 1 (Necesidad) Sea x soluci on del problema (1). Si x cumple la cualicaci on de las re2 m stricciones entonces existe R tal que (x , ) cumplen las condiciones de Kuhn-Tucker
1 Formas 2 Veremos

equivalentes de esta condici on son: [j > 0 entonces gj (x) = cj ] o [j (gj (x) cj ) = 0] luego a qu e se reere esta condici on

Supongamos por el momento que toda x posible cumple la cualicaci on de las restricciones. En ese caso, el teorema nos dice que toda soluci on debe satisfacer las CKT para cierto . Le da de otra forma; si x no cumple la CKT para ning un entonces no puede ser soluci on. En la pr actica si aplicamos y resolvemos las ecuaciones de la CKT, todos los puntos que encontremos ser an candidatos a resolver el problema (aunque no es seguro que sean soluci on), todos los dem as puntos han sido descartados como posibles soluciones. La cualicaci on de las restricciones es una condici on t ecnica que puede tomar varias formas, las m as usuales son: Para el problema (1) el punto x cumple con la cualicaci on de las restricciones en cualquiera de los siguientes casos: Ind.Lin El conjunto de vectores de Rn : {gj (x)|gj (x) = cj } es linealmente independiente Lin Todas las restricciones gj son lineales. Slater Todas las restricciones gj son convexas y existe x tal que gj (x ) < cj para cada j = 1, . . . , m. Repitiendo lo dicho antes, con bastante generalidad las Condiciones de Kuhn-Tucker seleccionan un conjunto de puntos que debe incluir a la soluci on, si esta existe. Para poder asegurar que aquellos puntos que satisfacen las CKT son la soluci on tenemos los resultados de suciencia. Teorema 2 (Suciencia 1) Si en el problema (1), la funci on objetivo f es c oncava y todas las restricciones gj son convexas se cumple que: Si (x , ) cumple las condiciones de Kuhn-Tucker entonces x es soluci on de (1). Teorema 3 (Suciencia 2) Si en el problema (1), (x , ) cumple las condiciones de Kuhn-Tucker y L(x, ), como funci on de x, es c oncava, entonces x es soluci on de (1). Demostraci on. L Al ser L(x, ) c oncava, las condiciones: (x , ) = 0 para cada i = 1, . . . , n nos aseguran que x es un xi m aximo de L(x, ), por lo que para todo x: L(x , ) L(x, )
m m j (gj (x ) cj ) F (x) j =1 m j =1 m

F ( x )

j (gj (x) cj )

F (x ) F (x)
j =1 m

(gj (x ) cj )
j =1 m

j (gj (x) cj ) j (gj (x) cj )

j =1

F (x ) F (x)
j =1

j (gj (x ) cj )

Por las CKT sabemos que j (gj (x ) cj ) = 0 para toda j . m

F (x ) F (x) F (x ) F (x)

j (gj (x) cj ) (cj gj (x))

j =1 m j j =1

Como x debe cumplir las restricciones tenemos que gj (x) cj y adem as los multiplicadores deben ser no negativos: 0 luego para cada sumando ( c g ( x )) 0 con lo que llegamos a: j j j j F (x ) F (x) es decir: F (x ) F (x) 0

El primero de estos teoremas se puede aplicar antes de usar las CKT. Para aplicar el segundo necesitamos resolver las CKT para vericar en cada candidato si L(x, ) es c oncavo. Debe ser claro que el primer teorema de suciencia se desprende del segundo. Otra forma de estar seguros de haber obtenido la soluci on es usar el: Teorema 4 (Weierstrass) Si en (1), la funci on F es continua y las restricciones generan un conjunto cerrado y acotado, entonces el problema tiene al menos una soluci on. Si podemos aplicar el Teorema de Weierstass, la soluci on debe ser uno de los puntos seleccionados por las CKT y basta entonces evaluar la funci on objetivo en cada candidato para saber cu al es la soluci on.

1.2.

Uso de las CKT

Al usar las CKT debemos encontrar soluciones completas, valores para las x s y para las s, es decir tenemos n + m inc ognitas. Para esto necesitamos (gen ericamente) n + m ecuaciones. Observando las CKT, el punto 1 provee de n ecuaciones, las otras m ecuaciones salen del punto 4 considerando las dos alternativas: [gj (x) = cj ] o [gj (x) < cj y por lo tanto j = 0]. Como tenemos m de estas posibilidades se generan 2m casos que envuelven a m + n ecuaciones para m + n variables. En cada caso luego de resolver las ecuaciones se deben vericar las desigualdades de los puntos 2 y 3.

1.3.

Ejemplo
M ax F (x, y ) s.a. g1 (x, y ) c1 g2 (x, y ) c2 g3 (x, y ) c3

El lagrangiano es: L(x, y, 1 , 2 , 3 ) = F (x, y ) 1 (g1 (x, y ) c1 ) 2 (g2 (x, y ) c2 ) 3 (g3 (x, y ) c3 ) y las CKT: 1.
L x L y

=0 =0

2. g1 (x, y ) c1 g2 (x, y ) c2 g3 (x, y ) c3 3. 1 0 2 0 3 0 3

4. Si g1 (x, y ) < c1 entonces 1 = 0 Si g2 (x, y ) < c2 entonces 2 = 0 Si g3 (x, y ) < c3 entonces 3 = 0 Como tenemos 3 restricciones tenemos 23 = 8 casos: 1 2 3 4 5 6 7 8 g1 = c1 > c1 = c1 > c1 = c1 > c1 = c1 > c1 g2 = c2 = c2 > c2 > c2 = c2 = c2 > c2 > c2 g3 = c3 = c3 = c3 = c3 > c3 > c3 > c3 > c3

2.

Problemas con condiciones de nonegatividad

En muchos problemas de la teor a econ omica las variables de elecci on deben ser no negativas, plante andose en este caso el problema: M ax s.a. F ( x) gj (x) cj con j = 1, . . . , m xi 0 para i = 1, . . . , n Este problema puede ser tratado como se fuera del tipo (1) ahora con n + m restricciones (y multiplicadores). Lo que sucede es que los multiplicadores de las restricciones de no negatividad no tienen mayor inter es. Es por esto que se adecuan las condiciones de Kuhn-Tucker para no trabajar con dichos multiplicadores. (3)

2.1.

Adecuaci on de las condiciones de Kuhn-Tucker

m n

El lagrangiano original para el problema (3) es: L F (x)

j =1

j (gj (x) cj )
i=1

i (xi )

(4)

pero vamos a escribir las condiciones de K-T en base al Lagrangiano corto:

m

L F ( x)
j =1

j (gj (x) cj )

(5)

donde no usamos los multiplicadores . Observemos que: L L = + i xi xi Para el lagrangiano (4) las condiciones de K-T son: 1.
L xi L xi

+ i = 0 para cada i = 1, . . . , n 4

2. gj (x) cj para cada j = 1, . . . , m xi 0 para i = 1, . . . , n 3. j 0 para cada j = 1, . . . , m i 0 para cada i = 1, . . . , n 4. Si gj (x) < cj entonces j = 0 Si xi > 0 entonces i = 0 Observemos que de la primera condici on podemos despejar: i = y reemplazar en las otras: 1. 2. gj (x) cj para cada j = 1, . . . , m xi 0 para i = 1, . . . , n 3. j 0 para cada j = 1, . . . , m
L x 0 para cada i = 1, . . . , n i

L xi

4. Si gj (x) < cj entonces j = 0

L Si xi > 0 entonces x =0 i

Donde observamos que no aparecen los multiplicadores y las condiciones est an expresadas en t erminos del Lagrangiano (5). Finalmente podemos ordenar, simplicar y renumerar las condiciones para obtener: 1.
L xi

0 para cada i = 1, . . . , n

2. gj (x) cj para cada j = 1, . . . , m 3. xi 0 para i = 1, . . . , n 4. j 0 para cada j = 1, . . . , m 5. Si gj (x) < cj entonces j = 0 6. Si xi > 0 entonces
L xi

=0

Los casos y sistemas de ecuaciones se obtienen de las condiciones 5 y 6.

2.2.

Ejemplo
M ax xy x + y s.a. x + y 9 x + 5y 25 x0 y0

Tenemos: L xy x + y 1 (x + y 9) 2 (x + 5y 25) con las condiciones: 5

1.

L x L y

= y 1 1 2 0 = x + 1 1 52 0

2. x + y 9 x + 5y 25 3. x 0 y0 4. 1 0 2 0 5. Si x + y < 9 entonces 1 = 0 Si x + 5y < 25 entonces 2 = 0 6. Si x > 0 entonces y 1 1 2 = 0 Si y > 0 entonces x + 1 1 52 De las condiciones 5 y 6 tenemos 24 = 16 casos: a b c d e f g h i j k l m n p q R1 = > = > = > = > = > = > = > = > R2 = = > > = = > > = = > > = = > > x = = = = > > > > = = = = > > > > y = = = = = = = = > > > > > > > >

3.

Problemas con restricciones mixtas

Consideremos ahora el problema: M ax s.a. F ( x) gj (x) cj con j = 1, . . . , m hk (x) = dk con k = 1, . . . , l (6)

con x Rn . en el cual tenemos restricciones de desigualdad y de igualdad.

3.1.

Adecuaci on de las CKT

Para poder aplicar las condiciones de Kuhn-Tucker podemos transformar el problema en: M ax s.a. F ( x) gj (x) cj con j = 1, . . . , m hk (x) dk con k = 1, . . . , l hk (x) dk con k = 1, . . . , l Donde hemos usado: hk (x) = ck Para el problema ?? se forma el Lagrangiano:
m l l

(7)

dk hk (x) dk hk (x) dk hk (x) dk

L(x, , , ) = F (x)
j =1

j (gj (x) cj )
k=1

k (hk (x) dk ) +
k=1

k (hk (x) dk )

(8)

y se obtienen las condiciones de Kuhn-Tucker: 1. L = 0 para cada i = 1, . . . , n xi hk (x) dk para cada k = 1, . . . , l hk (x) dk para cada k = 1, . . . , l 3. j 0 para cada j = 1, . . . , m k 0 para cada k = 1, . . . , l k 0 para cada k = 1, . . . , l 4. Si gj (x) < cj entonces j = 0 Si hk (x) < dk entonces k = 0 Si hk (x) > dk entonces k = 0 Del punto 2 podemos recuperar hk (x) = ck para cada k = 1, . . . , l, lo cual nos permite no considerar las dos u ltimas condiciones del punto 4 . Por otro lado podemos transformar el lagrangiano de 8:
m l l

2. gj (x) cj para cada j = 1, . . . , m

L(x, , , )

= F ( x)
j =1 m

j (gj (x) cj )
k=1 l

k (hk (x) dk ) +
k=1

k (hk (x) dk )

= F ( x)
j =1 m

j (gj (x) cj )
l

(k k )(hk (x) dk )
k=1

= F ( x)
j =1

j (gj (x) cj )
k=1

k (hk (x) dk )

= L(x, , ) 7

Donde hemos denido un nuevo multiplicador: k = k k y un nuevo Lagrangiano:

m l

L(x, , ) = F (x)
j =1

j (gj (x) cj )
k=1

k (hk (x) dk )

(9)

y es f acil ver la relaci on entre las derivadas de ambos Lagrangianos (ecuaciones (8) y(9): L(x, , , ) = L(x, , ) xi xi En t erminos de este Lagrangiano las condiciones establecidas ser an: 1. L = 0 para cada i = 1, . . . , n xi hk (x) = dk para cada k = 1, . . . , l 3. j 0 para cada j = 1, . . . , m 4. Si gj (x) < cj entonces j = 0 Donde los multiplicadores k , al ser la diferencia de dos n umeros no negativos, pueden tomar valores negativos, positivos o nulos. Es decir que no est an restringidos a ser no negativos, como lo est an los multiplicadores asociados a las restricciones de desigualdad.

2. gj (x) cj para cada j = 1, . . . , m

3.2.

Ejemplo
M ax xy x + y s.a. x + y 9 x + 5y = 25

Tenemos: L xy x + y 1 (x + y 9) 2 (x + 5y 25) con las condiciones: 1.

L x L y

= y 1 1 2 = 0 = x + 1 1 52 = 0

2. x + y 9 x + 5y = 25 3. 1 0 4. Si x + y < 9 entonces 1 = 0 De la condici on 4 tenemos 21 = 2 casos: x + y < 9 y x + y = 9.

4.

Teorema de la Envolvente
Consideremos un problema de optimizaci on con variables de elecci on x Rn y par ametros q Q Rs : M ax s.a. F (x, q ) gj (x, q ) 0 con j = 1, . . . , m (10)

y supongamos que para todo juego de par ametros q Q el problema tiene soluci on y esta es u nica, as podemos escribir: x(q ), la soluci on de (10) para q . Lo que estamos haciendo es denir la funci on soluci on: x : Q Rn , que a cada juego de par ametros q le asigna la soluci on particular del problema3 . Tambi en podemos denir la funci on valor optimo: v : Q R, que a cada juego de par ametros q le asigna el valor m aximo de la funci on: v (q ) = F (x(q ), q ). Estas dos funciones en la teor a econ omica pueden ser de inter es, por ejemplo: si el problema de maximizaci on corresponde al problema del consumidor, los par ametros q son los precios y el ingreso, la funci on x(q ) es la funci on demanda y la funci on v (q ) es la utilidad indirecta. Una primera pregunta es si estas funciones x( ) y v ( ) son continuas o, a un m as, diferenciables respecto de los par ametros q , para lo que sigue asumiremos lo segundo. El Teorema de la Envolvente para el caso en que se tiene solo restricciones de igualdad es conocido: Teorema 5 (Envolvente) Para el problema M ax s.a. F (x, q ) gj (x, q ) = 0 con j = 1, . . . , m

sea v (q ) = F (x(q ), q ) la funci on valor, la cual asumiremos diferenciable. Se cumple: v (q ) qs L(x, q, ) qs F (x, q ) qs

=
q

(x( q ),q ,( q )) m

(x( q ),q ) j =1

j ( q)

gj (x, q ) qs

(x( q ),q )

Para tener un resultado similar para el problema con restricciones de desigualdad se debe asegurar que el conjunto de restricciones que se cumplen con igualdad en la soluci on x(q ) : B (q ) = {j |gj (x(q ), q ) = 0} es invariante en una vecindad de q .

3 Observemos

que tambi en los multiplicadores de Lagrange que acompa nan a cada soluci on dependen de q : (q )