Está en la página 1de 46

UNIVERSIDAD DE CUENCA FACULTAD DE CIENCIAS ECONÓMICAS Y

ADMINISTRATIVAS CARRERA DE ECONOMÍA

NOTAS DE CLASE
Economía Matemática
UNIDAD V: ELEMENTOS DE
OPTIMIZACIÓN DINÁMICA

JUAN PABLO SARMIENTO JARA

Estas Notas Corresponden al Curso de Economía Matemática que se imparte en la carrera de Economía de la
Universidad de Cuenca en el cuarto semestre de estudios. Se agradece a Ximena Bernal por su colaboración en la
digitación de este capítulo.
ELEMENTOS DE OPTIMIZACIÓN DINÁMICA

La Optimización Dinámica estudia la optimización de sistemas dinámicos, es decir, sistemas que varían
con el tiempo. A diferencia de la optimización estática, la optimización dinámica busca una secuencia de
valores (tiempo discreto) o una función (tiempo continuo) que maximice o minimice un funcional.

TÉCNICAS DE OPTIMIZACIÓN DINÁMICA

• Cálculo de Variaciones (Euler, Lagrange, Legendre entre otros. Siglo XVIII). Aplica a
problemas en tiempo continuo, y se la considera la técnica clásica de optimización dinámica.
• Teoría de Control Óptimo (Pontrayagin, principios de los años 60). Utilizada también para
optimizar sistemas dinámicos continuos y que son susceptibles de ser influenciados por fuerzas
externas. Se basa en el principio del máximo de Pontrayagin, que de hecho también se puede
aplicar a problemas en tiempo discreto, pero se lo hace con menor frecuencia
• Programación Dinámica (Bellman, finales de los años 50). La programación dinámica es una
técnica utilizada para optimizar sistemas dinámicos, con mayor aplicación a problemas en
tiempo discreto. Su principio básico es la llamada Ecuación del Bellman.
• Programación dinámica estocástica. Se aplican los principios de la programación dinámica
a procesos estocásticos, es decir procesos que asumen aleatoriedad en el sistema.

CALCULO DE VARIACIONES
Iniciamos este tema con el estudio de la técnica conocida como cálculo de variaciones. Por
simplicidad, asumiremos problemas con una sola variable, y por ahora con condición inicial y
condición final dadas.

Conceptos preliminares

Sean 𝑡0 y 𝑡1 números reales definidos en el intervalo [𝑡0, 𝑡1 ], asumiendo que 𝑡0 < 𝑡1 . Se define al
conjunto de funciones Ω, como:
𝛀 = {𝑋: [𝑡0 , 𝑡1 ] → ℝ/Poseen derivadas continuas}
Considere 𝑋1 y 𝑋2 𝜖 𝛀, con las siguientes propiedades:
i) 𝑋1 (𝑡) + 𝑋2 (𝑡) = (𝑋1 + 𝑋2 )(𝑡)
ii) Para un escalar 𝜆 ϵ ℝ, se tiene que 𝜆𝑋(𝑡) = (𝜆𝑋)(𝑡)
Estas operaciones definen a 𝛀 como un Espacio Vectorial.
Ejemplo 1: Sean 𝑡0 = 1 y 𝑡1 = 5; 𝑋1 (𝑡) = 𝑡 2 y 𝑋2 (𝑡) = 2𝑡 + 1. Además 𝜆 = 3. Aplique las dos
propiedades del párrafo previo.
Tenemos que 𝑋1 (𝑡) + 𝑋2 (𝑡) = 𝑡 2 + 2𝑡 + 1 = (𝑋1 + 𝑋2 )(𝑡)
Por otro lado:
3𝑋1 (𝑡) = 3𝑡 2 = 3𝑋1 (𝑡)
3𝑋2 (𝑡) = 3(2𝑡 + 1) = (6𝑡 + 3) = 3𝑋2 (𝑡)

Definimos ahora la Norma ‖∙‖ en 𝛀. El símbolo ‖∙‖ representa una función que mapea desde 𝛀
hasta los reales:
‖∙‖: 𝛀→ℝ,
𝑋 → ‖𝑋‖ = 𝑀á𝑥 |𝑋(𝑡)| 𝑡 Є [𝑡0 , 𝑡1 ]. Gráficamente

El conjunto 𝛀 con una norma definida es un Espacio Normado.


Ejemplo 2: Sean 𝑡0 = 1 y 𝑡1 = 5; 𝑋1 (𝑡) = 𝑡 2 y 𝑋2 (𝑡) = 2𝑡 + 1. Además 𝜆 = 3. Encuentre:

1) ‖𝑋1 ‖ = ‖𝑡 2 ‖ = 𝑀á𝑥 |𝑡 2 | = 25
𝑡 ∈ (1; 5)

2) ‖𝑋2 ‖ = ‖2𝑡 + 1‖ = 𝑀á𝑥 |2𝑡 + 1| = 11


𝑡 ∈ (1; 5)
3) Considere la función 𝑋3 (𝑡) = 1 + √36 − (𝑡 − 4)2
‖𝑋3 ‖ = ‖1 + √36 − (𝑡 − 4)2 ‖ = 𝑀á𝑥 |1 + √36 − (𝑡 − 4)2 | = 7
𝑡 ∈ (1; 5)
Nótese que utilizando los valores extremos no se obtiene la norma, ya que con 𝑡 = 1, |𝑋3 | = 6. Y
con 𝑡 = 5; |𝑋3 | = 6,9. En este caso se requiere calcular un punto crítico. Para ello primero
obtenemos la primera derivada de 𝑋3, luego igualamos dicha derivada a cero:

1 1
𝑋3′ = [36 − (𝑡 − 4)2 ]−2 [−2(𝑡 − 4)] = 0
2

Simplificando −2𝑡 + 8 = 0. Finalmente el máximo (verificar) se obtiene cuando 𝑡 = 4

Se define a la distancia en 𝛀 como 𝑑(𝑋1 , 𝑋2 ) = ‖𝑋1 − 𝑋2 ‖ = 𝑀á𝑥|𝑋1 − 𝑋2 |


𝑡 Є [𝑡0 , 𝑡1 ]

El conjunto 𝛀 con una distancia definida es un Espacio Métrico

Ejemplo 3: Encuentre la distancia entre las funciones 𝑋1 y 𝑋2

𝑑(𝑋1 , 𝑋2 ) = 𝑀á𝑥|𝑡 2 − 2𝑡 − 1| = 14
𝑡 ∈ (1,5)

Sea 𝑋0 ∈ 𝛀 y sea 𝛿 ∈ ℝ (𝛿 > 0). Se define a la Bola Abierta con centro 𝑋0 y radio 𝛿, como:

𝐵(𝑋0 , 𝛿) = {𝑋 ∈ 𝛀/ 𝑑(𝑋, 𝑋0 ) < 𝛿}


Gráficamente:

Un funcional 𝐽(𝑋 ) es una aplicación cuyo dominio es un conjunto de funciones y cuyo rango es
un subconjunto de ℝ. En este caso consideramos funcionales 𝐽 cuyo dominio es el conjunto 𝛀, es
decir:

𝐽: 𝛀 → ℝ
𝑋 → 𝐽(𝑋)

Ejemplos de Funcional:

𝑡
1) 𝐽(𝑋 ) = ∫𝑡 1 𝑋(𝑡 )𝑑𝑡
0

2) 𝐽(𝑋 ) = 𝑋̇ (𝑡)|𝑡0+𝑡1
2

FORMULACIÓN DEL PROBLEMA DE CÁLCULO DE VARIACIONES

Iniciamos planteando el problema del cálculo de variaciones considerando una sola variable y
suponiendo que la condición inicial y la condición final están dadas. “Sea F una función 𝐶 (2) , se
considera el siguiente funcional:
𝑡1
𝐽(𝑋) = ∫ 𝐹[𝑋(𝑡); 𝑋̇(𝑡); 𝑡]𝑑𝑡
𝑡0
Lo que se busca es una función 𝑋 ∗ (𝑡) ∈ 𝛀, que verifique 𝑋 ∗ (𝑡0 ) = 𝑋0 y 𝑋 ∗ (𝑡1 ) = 𝑋1 para la que
𝐽(𝑋) alcance su valor máximo o mínimo”
𝑡1
𝑀á𝑥 𝐽(𝑋) = ∫ 𝐹[𝑋(𝑡); 𝑋̇(𝑡); 𝑡]𝑑𝑡
𝑡0
{𝑋 ∈ 𝛀}
Con: 𝑋(𝑡0 ) = 𝑋0
𝑋(𝑡1 ) = 𝑋1

Ejemplo:
Considere una función de utilidad dada por 𝑈[𝐶(𝑡)], con 𝑈’ > 0 y 𝑈” < 0, donde "𝐶" representa
el consumo del individuo. Además se asume que 𝐾(𝑡0 ) = 𝐾0 y 𝐾(𝑡1 ) = 𝐾1 , siendo "𝐾" el Stock
de Capital. La tasa de interés es "𝑖". El individuo recibe un salario 𝑊(𝑡) determinado
exógenamente. Sus ingresos en "𝑡" vienen dados por 𝑊(𝑡) + 𝑖𝐾(𝑡). El horizonte temporal está
definido en [0, 𝑡1 ]. Finalmente, la tasa de descuento es “𝑟”. Se pide que formule el problema de
cálculo de variaciones.

En primer lugar asumimos que el individuo consumirá en el período dado entre 0 𝑦 𝑡1 . Este
consumo le genera una utilidad en cada momento 𝑡, la que traída a valor presente se puede
representar como:

𝑒 −𝑟𝑡 𝑈[𝐶 (𝑡 )]

Por tanto su utilidad total entre 0 𝑦 𝑡1 es:


𝑡1
∫ 𝑒 −𝑟𝑡 𝑈[𝐶(𝑡)]𝑑𝑡
0

El cambio en su stock de capital viene dado por:

𝐾̇ (𝑡) = 𝑖𝐾(𝑡) + 𝑊(𝑡) − 𝐶(𝑡)

Con: 𝐾(0) = 𝐾0
𝐾(𝑡1 ) = 𝐾1

Luego de despejar el consumo y reemplazarlo en el funcional, planteamos el problema de


maximización como:
𝑡1
𝑀á𝑥 𝐽(𝑋) = ∫ 𝑒 −𝑟𝑡 𝑈[𝑖𝐾(𝑡) + 𝑊(𝑡) − 𝐾̇ (𝑡)]𝑑𝑡
0
{𝐾 ∈ 𝛀}

Con: 𝐾(0) = 𝐾0
𝐾(𝑡1 ) = 𝐾1
Una función 𝐾 ∗ (𝑡) es admisible si cumple con las condiciones inicial y final dadas, a saber:
𝐾 ∗ (0) = 𝐾0 y 𝐾 ∗ (𝑡1 ) = 𝐾1

En general, una función 𝑋 ∗ (𝑡) constituye un máximo global si para cualquier otra función
admisible de 𝑋(𝑡)

𝐽(𝑋) ≤ 𝐽(𝑋 ∗ )

Una función admisible 𝑋 ∗ (𝑡), se dice que es un máximo local si existe un 𝛿 > 0 tal que para toda
función admisible 𝑋, perteneciente a 𝐵(𝑋 ∗ , 𝛿) Se verifica que

𝐽(𝑋) ≤ 𝐽(𝑋 ∗ )

CONDICIÓN NECESARIA DE OPTIMALIDAD

Teorema: 𝑋 ∗ (𝑡 ) es un máximo local del problema definido previamente, si se verifica la siguiente


condición:

𝑑
𝐹𝑥 [𝑋 ∗ (𝑡 ), 𝑋̇ ∗ (𝑡), 𝑡] − 𝐹 [𝑋 ∗ (𝑡), 𝑋̇ ∗ (𝑡 ), 𝑡] = 0
𝑑𝑡 𝑥̇

∀ 𝑡 ∈ [𝑡0 , 𝑡1 ]

A esta ecuación se la conoce como Ecuación de Euler.

Ejemplo 1
2
𝑀á𝑥 𝐽(𝑋) = ∫ (−12𝑡𝑋 − 𝑋̇ 2 )𝑑𝑡
0

Con: 𝑋(0) = 2
𝑋(2) = 12

Dada la función 𝐹 = (−12𝑡𝑋 − 𝑋̇ 2 ), en primer lugar encontramos 𝐹𝑋 [𝑋 ∗ , 𝑋̇ ∗ , 𝑡], que de manera


simplificada se puede escribir como:

𝐹𝑋 = −12𝑡
Luego encontramos 𝐹𝑋̇ [𝑋 ∗ , 𝑋̇ ∗ , 𝑡]
𝐹𝑋̇ = −2𝑋̇

𝑑
Finalmente, 𝐹𝑋̇ [𝑋 ∗ , 𝑋̇ ∗ , 𝑡] es igual a:
𝑑𝑡

𝑑𝐹𝑋̇
= −2𝑋̈
𝑑𝑡

Por tanto, la condición necesaria de optimalidad (Ecuación de Euler) es−12𝑡 + 2𝑋̈ = 0.


Reordenando términos, llegamos a:

2𝑋̈ = 12𝑡. Esto implica que 𝑋̈ = 6𝑡. Nótese que estamos frente a una ecuación diferencial de
segundo orden, que debemos resolver

Integrando con respecto al tiempo obtenemos 𝑋̇ = 3𝑡 2 + 𝑘1 . Integrando nuevamente, llegamos a


la expresión de solución

𝑋 ∗ (𝑡) = 𝑡 3 + 𝑘1 𝑡 + 𝑘2

Con 𝑘1 y 𝑘2 constantes, que se encuentran fácilmente utilizando las condiciones iniciales:

𝑋(0) = 𝑘2 = 2
𝑋(2) = (2)3 + 2𝑘1 + 2 = 12
𝑘1 = 1

Finalmente:

𝑋 ∗ (𝑡) = 𝑡 3 + 𝑡 + 2

Que es la función solución que maximiza el funcional.

Ejercicio: Maximizar el siguiente funcional:

1
𝑀á𝑥 𝐽(𝑥) = ∫ (2 − 3𝑋𝑋̇ 2 )𝑑𝑡
0

Con 𝑋(0) = 0
𝑋(1) = 1
𝐹𝑋 = −3𝑋̇ 2
𝐹𝑋̇ = −6𝑋𝑋̇

𝑑
𝐹̇
𝑑𝑡 𝑋
= −6𝑋𝑋̈ − 6𝑋̇ 2

Con esta información construimos la Ecuación de Euler:

−3𝑋̇ 2 + 6𝑋𝑋̈ + 6𝑋̇ 2 = 0


3𝑋̇ 2 + 6𝑋𝑋̈ = 0
𝑋̇ 2 + 2𝑋𝑋̈ = 0

Esta es una ecuación diferencial de segundo orden no lineal, que no se puede resolver con los
métodos analíticos que conocemos. Sin embargo, existe una posibilidad, ya que como bien se
puede observar, en este ejemplo el tiempo no aparece explícitamente en la función 𝐹. Ello nos
lleva a considerar los siguientes casos especiales de la ecuación de Euler.

CASOS ESPECIALES DE LA ECUACIÓN DE EULER

1) 𝐹 no depende de X, es decir la función es del tipo 𝐹[𝑋̇(𝑡), 𝑡]


𝑑
En este caso tenemos 𝑑𝑡 𝐹𝑋̇ = 0

2) 𝐹 no depende de 𝑋̇ por lo que la función tiene la forma 𝐹[𝑋(𝑡), 𝑡]


Ahora la ecuación de Euler se reduce a:
𝐹𝑋 = 0

3) 𝐹 no depende explícitamente del tiempo “𝑡”. En este caso la función se reduce a


𝐹[𝑋(𝑡); 𝑋̇(𝑡)]

Analicemos con más detalle este caso. Suponga la función 𝐹[𝑋(𝑡); 𝑋̇(𝑡), 𝑡]; en este caso 𝐹 es
afectada por el tiempo en 3 vías, tal como se parecía en el siguiente diagrama.

Obteniendo la derivada total de 𝐹 con respecto al tiempo:


𝑑𝐹 𝜕𝐹 𝑑𝑋 𝜕𝐹 𝑑𝑋̇ 𝜕𝐹
= ∗ + ∗ +
𝑑𝑡 𝜕𝑋 𝑑𝑡 𝜕𝑋̇ 𝑑𝑡 𝜕𝑡
Aplicando este caso que “𝑡” no afecta a 𝐹 y simplificando la nomenclatura, obtenemos:

𝑑𝐹
(1) = 𝐹𝑋 𝑋̇ + 𝐹𝑋̇ 𝑋̈
𝑑𝑡

La ecuación de Euler plantea:


𝑑
(2) 𝐹𝑋 = 𝐹̇
𝑑𝑡 𝑋

Reemplazando (2) en (1):


𝑑𝐹 𝑑
= 𝐹𝑋̇ 𝑋̇ + 𝐹𝑋̇ 𝑋̈
𝑑𝑡 𝑑𝑡

Nótese que el lado derecho es la derivada de 𝑋̇𝐹𝑋̇ con respecto a 𝑡. Por lo tanto, podemos
escribir:

𝑑𝐹 𝑑
= (𝑋̇𝐹𝑋̇ )
𝑑𝑡 𝑑𝑡

Reordenando términos,
𝑑
(𝐹 − 𝑋̇𝐹𝑋̇ ) = 0
𝑑𝑡

Finalmente, integrando con respecto a t, llegamos a la expresión buscada, donde 𝐶 es una constante

𝐹 − 𝑋̇𝐹𝑋̇ = 𝐶

Ahora apliquemos este resultado al ejercicio anterior

𝐹 − 𝑋̇𝐹𝑋̇ = 0, es igual a

2 − 3𝑋𝑋̇ 2 + 6𝑋𝑋̇ ∗ 𝑋̇ = 𝐶
2 − 3𝑋𝑋̇ 2 + 6𝑋𝑋̇ 2 = 𝐶
2 + 3𝑋𝑋̇ 2 = 𝐶
3𝑋𝑋̇ 2 = 𝐶 − 2
𝐶−2 1
𝑋̇ 2 = ( )( )
3 𝑋
1 𝐶−2
𝑋̇ = 𝐴 (𝑋), con 𝐴 = ( 3 )
2

Obteniendo la raíz:
1
𝑋̇ = 𝐵 ( ), con 𝐵 = √𝐴
√𝑋
Aplicando el método de ecuaciones separables

𝑑𝑋 1
= 𝐵( )
𝑑𝑡 √𝑋

∫ √𝑋 𝑑𝑋 = ∫ 𝐵𝑑𝑡

3
2
𝑋 2 + Є = 𝐵𝑡, siendo Є una constante
3

3 3 3
𝑋2 = 𝐵𝑡 − Є
2 2
3
3 3
𝑋 2 = 𝐹𝑡 + 𝐷, donde las constantes son 𝐹 = 2 𝐵 y 𝐷 = − 2 Є

2
𝑋 ∗ (𝑡) = (𝐹𝑡 + 𝐷)3

Aplicando las condiciones iniciales:


2
𝑋(0) = 𝐷3 = 0
𝐷=0
2
𝑋(1) = 𝐹 3 = 1
𝐹=1

Finalmente,
2
𝑋 ∗ (𝑡) = 𝑡 3 , 𝑝𝑎𝑟𝑎 𝑡 Є [0,1]

CONDICIÓN NECESARIA DE SEGUNDO ORDEN: CONDICIÓN DE LEGENDRE

Si 𝑋 ∗ (𝑡) es un máximo local, entonces en 𝑋 ∗ (𝑡) se verifica que:

𝐹𝑋̇𝑋̇ [𝑋 ∗ (𝑡), 𝑋̇ ∗ (𝑡), 𝑡] ≤ 0


∀ 𝑡 ∈ [𝑡0 , 𝑡1 ]

Si 𝑋 ∗ (𝑡) es un mínimo local, entonces en 𝑋 ∗ (𝑡) se verifica que:

𝐹𝑋̇𝑋̇ [𝑋 ∗ (𝑡), 𝑋̇ ∗ (𝑡), 𝑡] > 0


∀ 𝑡 ∈ [𝑡0 , 𝑡1 ]
Ejemplo: Optimizar el siguiente funcional

1
𝐽(𝑥) = ∫ (𝑋 2 + 𝑋̇ 2 + 2𝑋𝑒 𝑡 )𝑑𝑡
0
Con 𝑋(0) = 0
1
𝑋(1) = 2

𝐹𝑋 = 2𝑋 + 2𝑒 𝑡
𝐹𝑋̇ = 2𝑋̇
𝑑
𝐹 ̇ = 2𝑋̈
𝑑𝑡 𝑋

Ecuación de Euler
2𝑋 − 2𝑋̈ + 2𝑒 𝑡 = 0
𝑋 − 𝑋̈ = −𝑒 𝑡
𝑋̈ − 𝑋 = 𝑒 𝑡

Resolvemos esta ecuación diferencial, hallando primero la solución homogénea:


𝑟2 − 1 = 0
(𝑟 − 1)(𝑟 + 1) = 0
𝑟1 = 1
𝑟2 = −1

Solución homogénea: 𝑋(𝑡)ℎ = 𝑘1 𝑒 𝑡 + 𝑘2 𝑒 −𝑡

Luego, encontramos la solución particular:


𝑋𝑝 (𝑡) = 𝐴𝑡𝑒 𝑡
𝑋̇𝑝 (𝑡) = 𝐴𝑡𝑒 𝑡 + 𝐴𝑒 𝑡
𝑋̈𝑝 (𝑡) = 𝐴𝑡𝑒 𝑡 + 𝐴𝑒 𝑡 + 𝐴𝑒 𝑡
𝑋̈𝑝 (𝑡) = 𝐴𝑡𝑒 𝑡 + 2𝐴𝑒 𝑡
Reemplazando
𝐴𝑡𝑒 𝑡 + 2𝐴𝑒 𝑡 − 𝐴𝑡𝑒 𝑡 = 𝑒 𝑡
2𝐴𝑒 𝑡 = 𝑒 𝑡
1
2𝐴 = 1 Lo que implica que 𝐴 = 2.

1
Solución particular: 𝑋𝑝 = 2 𝑡𝑒 𝑡
La solución general es entonces:

1
𝑋 ∗ (𝑡) = 𝑘1 𝑒 𝑡 + 𝑘2 𝑒 −𝑡 + 𝑡𝑒 𝑡
2
Usando las condiciones iniciales, encontramos los valores de las constantes

𝑋(0) = 𝑘1 + 𝑘2 = 0
1 1
𝑋(1) = 𝑘1 𝑒 + 𝑘2 𝑒 −1 + 𝑒 =
2 2
𝑘2 = −𝑘1

Reemplazando:
1 1
𝑋(1) = 𝑘1 𝑒 − 𝑘1 𝑒 −1 + 2 𝑒 = 2
1 1
𝑘1 (𝑒 − 𝑒 −1 ) = 2 − 2 𝑒
1
(1−𝑒)
2
𝑘1 = (𝑒−𝑒 −1 )
= −0,37
𝑘2 = 0,37

1
𝑋 ∗ (𝑡) = −0,371 𝑒 𝑡 + 0,37𝑒 −𝑡 + 𝑡𝑒 𝑡 , 𝑃𝑎𝑟𝑎 𝑡 ∈ [0,1]
2

Condición de segundo orden:


𝐹𝑋̇𝑋̇ = 2 > 0 → 𝐸𝑠 𝑢𝑛 𝑚í𝑛𝑖𝑚𝑜 𝑙𝑜𝑐𝑎𝑙

OBTENCIÓN DE LA ECUACIÓN DE EULER (OPTATIVO)

Para la demostración, necesitamos dos resultados previos, los mismos que se enuncian a
continuación (el primero de ellos sin prueba).

Proposición 1: “Sea 𝑓 una función continua en el intervalo [𝑡0 , 𝑡1 ] y sea 𝜂 una función
diferenciable definida en [𝑡0 , 𝑡1 ] con 𝜂(𝑡0 ) = 𝜂(𝑡1 ) = 0.
𝑡
Si ∫𝑡 1 𝑓(𝑡)𝜂(𝑡)𝑑𝑡 = 0 entonces 𝑓(𝑡) = 0 para todo 𝑡 en [𝑡0 , 𝑡1 ]
0

Fórmula de Leibniz (Expresión para encontrar la derivada de una integral)

𝑣(𝛼) 𝑣(𝛼)
𝑑 𝜕𝑓 (𝛼, 𝑧)
(∫ 𝑓 (𝛼, 𝑧)𝑑𝑧) = ∫ 𝑑𝑧 + 𝑓 [𝛼, 𝑣(𝛼)]𝑣 ′ (𝛼) − 𝑓[𝛼, 𝑢(𝛼)]𝑢′(𝛼)
𝑑𝛼 𝑢(𝛼) 𝑢(𝛼) 𝜕𝛼

𝜕𝑔(𝛼,𝑧)
Demostración: Sea 𝑔(𝛼, 𝑧), una función tal que = 𝑓(𝛼, 𝑧).
𝜕𝑧
Entonces:

𝑣(𝛼)
𝑑 𝑑
(∫ 𝑓(𝛼, 𝑧)𝑑𝑧) = [𝑔(𝛼, 𝑣(𝛼)) − 𝑔(𝛼, 𝑢(𝛼))]
𝑑𝛼 𝑢(𝛼) 𝑑𝛼

𝜕𝑔(𝛼, 𝑣(𝛼)) 𝜕𝑔(𝛼, 𝑣(𝛼)) 𝑑𝑣 𝜕𝑔(𝛼, 𝑢(𝛼)) 𝜕𝑔(𝛼, 𝑢(𝛼)) 𝑑𝑢


= + ∗ −[ + ∗ ]
𝜕𝛼 𝜕𝑣 𝑑𝛼 𝜕𝛼 𝜕𝑢 𝑑𝛼

Usando la regla de la cadena. Luego, reordenando términos:

𝜕𝑔(𝛼, 𝑣(𝛼)) 𝜕𝑔(𝛼, 𝑢(𝛼))


= − + 𝑓(𝛼, 𝑣(𝛼))𝑣 ′ (𝛼) − 𝑓(𝛼, 𝑢(𝛼))𝑢′(𝛼)
𝜕𝛼 𝜕𝛼

Con lo que se llega a la demostración buscada

𝑣(𝛼) 𝑣(𝛼)
𝑑 𝜕𝑓(𝛼, 𝑧)
(∫ 𝑓(𝛼, 𝑧)𝑑𝑧) = ∫ 𝑑𝑧 + 𝑓(𝛼, 𝑣(𝛼))𝑣 ′ (𝛼) − 𝑓(𝛼, 𝑢(𝛼))𝑢′(𝛼)
𝑑𝛼 𝑢(𝛼) 𝑢(𝛼) 𝜕𝛼

Condición de Euler: Sea 𝑋 ∗ (𝑡) una función que maximiza el problema dado y sea 𝜂(𝑡) una
función diferenciable definida en [𝑡0 , 𝑡1 ] con 𝜂(𝑡0 ) = 𝜂(𝑡1 ) = 0. Para un número real cualquiera
ε, definimos a la siguiente función:

𝑋𝜀 (𝑡) = 𝑋 ∗ (𝑡) + 𝜀𝜂(𝑡)


Al ser 𝑋 ∗ (𝑡) un óptimo local, debe verificarse que existe un 𝛿 > 0 tal que 𝑋𝜀 ∈ 𝐵(𝑋 ∗ , 𝛿). Además
𝐽(𝑋 ∗ ) ≥ 𝐽(𝑋𝜀 ). El funcional evaluado en 𝑋𝜀 es:

𝑡1
𝐽(𝑋𝜀 ) = ∫ 𝐹[𝑋𝜀 (𝑡); 𝑋̇𝜀 (𝑡); 𝑡]𝑑𝑡
𝑡0
𝑡1
= ∫ 𝐹[𝑋 ∗ (𝑡) + 𝜀𝜂(𝑡); 𝑋̇ ∗ (𝑡) + 𝜀𝜂̇ (𝑡); 𝑡]𝑑𝑡
𝑡0

Pero fijados 𝑋 ∗ y 𝜂 entonces 𝐽(𝑋𝜀 ) depende solo de ε. Por lo que podemos describir, 𝐽(𝑋𝜀 ) = 𝐽(𝜀)
El problema se reduce a un problema de maximización con una variable real. Es claro que 𝐽(𝜀)
alcanza un máximo local si 𝜀 = 0, por lo que la condición necesaria es:

[𝐽′(𝜀)]𝜀=0 = 0

Aplicando esta condición:

𝑑 𝑡1
𝐽′ (𝜀) = ∫ 𝐹[𝑋 ∗ (𝑡) + 𝜀𝜂(𝑡); 𝑋̇ ∗ (𝑡) + 𝜀𝜂̇ (𝑡); 𝑡]𝑑𝑡
𝑑𝜀 𝑡0

Utilizando Leibniz,
𝑡1
𝑑
𝐽′ (𝜀) = ∫ 𝐹[𝑋 ∗ (𝑡) + 𝜀𝜂(𝑡); 𝑋̇ ∗ (𝑡) + 𝜀𝜂̇ (𝑡); 𝑡]𝑑𝑡
𝑡0 𝑑𝜀
𝑡1
𝐽′ (𝜀) = ∫ (𝜂𝐹𝑋 + 𝜂̇ 𝐹𝑥̇ )𝑑𝑡
𝑡0

Considerando 𝜀 = 0 e igualando 𝐽′ (𝜀) a cero.


𝑡1
𝐽′ (𝜀) = ∫ 𝜂(𝑡)𝐹𝑥 [𝑋 ∗ (𝑡); 𝑋̇ ∗ (𝑡); 𝑡]𝑑𝑡 + 𝜂̇ (𝑡)𝐹𝑥̇ [𝑋 ∗ (𝑡); 𝑋̇ ∗ (𝑡); 𝑡]𝑑𝑡 = 0
𝑡0

Simplificando notación:
𝑡1 𝑡1
= ∫ 𝜂𝐹𝑋 𝑑𝑡 + ∫ 𝜂̇ 𝐹𝑋̇ 𝑑𝑡 = 0
𝑡0 𝑡0

Resolvemos la segunda integral por partes, con


𝑑
𝑢 = 𝐹𝑋̇ 𝑑𝑢 = 𝑑𝑡 𝐹𝑋̇ 𝑑𝑣 = 𝜂̇ 𝑑𝑡 𝑣=𝜂

𝑡1 𝑡1
𝑡 𝑑
∫ 𝜂̇ 𝐹𝑋̇ 𝑑𝑡 = 𝜂𝐹𝑋̇ |𝑡10 −∫ 𝜂 𝐹 ̇ 𝑑𝑡
𝑡0 𝑡0 𝑑𝑡 𝑋
𝑡1 𝑡1
𝑑
∫ 𝜂̇ 𝐹𝑋̇ 𝑑𝑡 = − ∫ 𝜂 𝐹 ̇ 𝑑𝑡 ya que [ 𝜂(𝑡0 ) = 𝜂(𝑡1 ) = 0]
𝑡0 𝑡0 𝑑𝑡 𝑋

Finalmente,
𝑡1 𝑡1
𝑑
∫ 𝜂𝐹𝑋 𝑑𝑡 − ∫ 𝜂 𝐹 ̇ 𝑑𝑡 = 0
𝑡0 𝑡0 𝑑𝑡 𝑋

𝑡1
𝑑
∫ 𝜂 [𝐹𝑥 − 𝐹 ̇ ] 𝑑𝑡 = 0
𝑡0 𝑑𝑡 𝑋

Usando la proposición 1, obtenemos:

𝑑
𝐹𝑥 − 𝐹 ̇ =0
𝑑𝑡 𝑋

CONDICIONES FINALES ALTERNATIVAS

Instante final dado y estado final libre

El problema ahora es el siguiente:


𝑡1
𝑀á𝑥 𝐽(𝑋) = ∫ 𝐹(𝑋, 𝑋̇, 𝑡)𝑑𝑡
𝑡0
Con 𝑋(𝑡0 ) = 𝑋0

Sea 𝑋 ∗ un óptimo del problema anterior, entonces se verifican tres condiciones:

𝑑
1) La ecuación de Euler (𝐹𝑋 − 𝑑𝑡 𝐹𝑋̇ ) = 0
2) La condición de Legendre:

𝐹𝑋̇𝑋̇ ≥ 0 (Mínimo local)


𝐹𝑋̇𝑋̇ < 0 (Máximo local)

3) Condición de transversalidad (nueva)

[𝐹𝑋̇ |𝑡=𝑡1 ] = 0

Esta última condición se obtiene debido a que ahora:

𝑡1 𝑡1
𝑡 𝑑
∫ 𝜂̇ 𝐹𝑋̇ 𝑑𝑡 = 𝜂𝐹𝑋̇ |𝑡10 − ∫ 𝜂 𝐹 ̇ 𝑑𝑡
𝑡0 𝑡0 𝑑𝑡 𝑋

𝑡1
𝑑
= 𝜂𝐹𝑋̇ |𝑡1 −∫ 𝜂 𝐹 ̇ 𝑑𝑡
𝑡0 𝑑𝑡 𝑋

Entonces:
𝑡1 𝑡1
′ (𝜀)
𝑑
𝐽 = ∫ 𝜂 𝐹𝑋 𝑑𝑡 − ∫ 𝜂 𝐹 ̇ 𝑑𝑡 + 𝜂𝐹𝑋̇ |𝑡1 = 0
𝑡0 𝑡0 𝑑𝑡 𝑋

𝑡1
𝑑
= ∫ 𝜂 [𝐹𝑋 − 𝐹 ̇ ] 𝑑𝑡 + 𝜂𝐹𝑋̇ |𝑡1 = 0
𝑡0 𝑑𝑡 𝑋

Por lo que, finalmente, dado que 𝜂 no es cero

𝐹𝑋̇ |𝑡1 = 0
Ejemplo: Optimizar
2
𝐽(𝑋) = ∫ (𝑡𝑋̇ + 𝑋̇ 2 )𝑑𝑡
0
Con 𝑋(0) = 0

Claramente, en este caso la condición final no está dada. Iniciamos, como siempre, encontrando
la ecuación de Euler

𝐹𝑋 = 0

𝐹𝑋̇ = 𝑡 + 2𝑋̇

𝑑
𝐹𝑋̇ = 1 + 2𝑋̈
𝑑𝑡

La Ecuación de Euler es

−1 − 2𝑋̈ = 0

Reordenando términos

2𝑋̈ = −1
1
𝑋̈ = − 2

Integrando con respecto a t:

1
∫ 𝑋̈ 𝑑𝑡 = ∫ − 𝑑𝑡
2
1
𝑋̇ = − 𝑡 + 𝑘1
2

Integrando nuevamente:

1
∫ 𝑋̇ 𝑑𝑡 = ∫ (− 𝑡 + 𝑘1 ) 𝑑𝑡
2

La solución es, por tanto


1
𝑋 ∗ (𝑡) = − 𝑡 2 + 𝑘1 𝑡 + 𝑘2
4

Aplicando la condición inicial 𝑋(0) = 0 obtenemos el valor de la constante


1
𝑋(0) = − (0)2 + 𝑘1 (0) + 𝑘2 = 0
4

Es decir que 𝑘2 = 0

Condición de Transversalidad:

La condición de transversalidad es [𝐹𝑋̇ |𝑡=𝑡1 ] = 0. Esta condición aplicada al presente caso da


como resultado que:

[𝑡 − 𝑡 + 2𝑘1 ] = 0. Deducimos entonces que 𝑘1 = 0

La solución general luego de determinar las constantes es

1
𝑋 ∗ (𝑡) = − 4 𝑡 2 𝑃𝑎𝑟𝑎 𝑡 ∈ [0,2]

Condición de Legendre:
𝐹𝑥̇ 𝑥̇ = 2 > 0 → (𝑀í𝑛𝑖𝑚𝑜)

EJEMPLO: UN MODELO DE GESTIÓN DE UN RECURSO NATURAL NO


RENOVABLE

Una empresa tiene los derechos de explotación de un recurso natural no renovable para el período
comprendido 𝑡0 y 𝑡1 . Su función de beneficios 𝜋(𝑥, 𝑞, 𝑡), donde:

𝑥 = 𝑆𝑡𝑜𝑐𝑘 𝑑𝑒𝑙 𝑟𝑒𝑐𝑢𝑟𝑠𝑜 𝑒𝑛 𝑒𝑙 𝑖𝑛𝑠𝑡𝑎𝑛𝑡𝑒 𝑡


𝑞 = 𝐸𝑥𝑡𝑟𝑎𝑐𝑐𝑖ó𝑛 𝑖𝑛𝑠𝑡𝑎𝑛𝑡á𝑛𝑒𝑎 𝑑𝑒𝑙 𝑟𝑒𝑐𝑢𝑟𝑠𝑜 𝑒𝑛 t

Se parte de la siguiente ecuación 𝑥̇ = −𝑞. Reemplazando en la función de beneficios:

𝜋(𝑥, −𝑥̇ , 𝑡)

Suponga que la función de beneficios tiene la siguiente estructura.

𝑡1
𝜋(𝑥, 𝑞, 𝑡) = ∫ 𝑒 −𝛿𝑡 [𝑝𝑞 − 𝑐(𝑥)]𝑑𝑡
𝑡0
𝑝(𝑡) = 𝑝𝑟𝑒𝑐𝑖𝑜 𝑢𝑛𝑖𝑡𝑎𝑟𝑖𝑜 𝑑𝑒𝑙 𝑟𝑒𝑐𝑢𝑟𝑠𝑜 𝑒𝑛 𝑒𝑙 𝑖𝑛𝑠𝑡𝑎𝑛𝑡𝑒 "t"
𝑐(𝑥) = 𝐶𝑜𝑠𝑡𝑜 𝑑𝑒 𝑒𝑥𝑡𝑟𝑎𝑐𝑐𝑖ó𝑛 𝑐 ′ (𝑥) < 0
𝛿 = 𝑡𝑎𝑠𝑎 𝑑𝑒 𝑑𝑒𝑠𝑐𝑢𝑒𝑛𝑡𝑜
Usando el hecho de que 𝑥̇ = −𝑞 tenemos:

𝑡1
𝑀á𝑥 𝐽(𝑥) = ∫ 𝑒 −𝛿𝑡 [−𝑥̇ 𝑝 − 𝑐(𝑥)]𝑑𝑡
𝑡0

𝑥(𝑡0 ) = 𝑥0 (Stock inicial del recurso)


𝑥(𝑡1 ) = 0

La expresión anterior se puede también escribir como:

𝑡1
𝑀í𝑛 𝐽(𝑥) = ∫ 𝑒 −𝛿𝑡 [𝑥̇ 𝑝 + 𝑐(𝑥)]𝑑𝑡
𝑡0

𝑥(𝑡0 ) = 𝑥0
𝑥(𝑡1 ) = 0

𝐹 = 𝑒 −𝛿𝑡 [𝑥̇ 𝑝 + 𝑐 (𝑥)]

𝐹𝑥 = 𝑒 −𝛿𝑡 [𝑐 ′ (𝑥)]

𝐹𝑥̇ = 𝑒 −𝛿𝑡 𝑝

𝑑
𝐹 = −𝛿𝑒 −𝛿𝑡 𝑝 + 𝑒 −𝛿𝑡 𝑝̇
𝑑𝑡 𝑥̇

Condición Necesaria (Ecuación de Euler)

𝑒 −𝛿𝑡 𝑐 ′ (𝑥) + 𝛿𝑒 −𝛿𝑡 𝑝 − 𝑒 −𝛿𝑡 𝑝̇ = 0

Reordenando, obtenemos: 𝑐 ′ (𝑥) = 𝑝̇ − 𝛿𝑝

A esta expresión se la conoce como la Regla de Extracción Óptima de Hotelling.

[𝑐 ′ (𝑥)](𝑡) = 𝑝̇ (𝑡) − 𝛿𝑝(𝑡)


TEORÍA DE CONTROL ÓPTIMO

Considere un sistema dinámico en tiempo continuo, definido en el intervalo [𝑡0 , 𝑡1 ]. El sistema se


describe a través de la trayectoria de una variable, llamada Variable de Estado 𝑿(𝒕) cuyo valor
inicial es 𝑋(𝑡0 ) = 𝑋0. La evolución del sistema depende del valor de una variable llamada
Variable de Control 𝒖(𝒕), la misma que permite influir en el sistema.

Se denomina Ecuación de Estado a la ecuación diferencial que describe la evolución de la variable


de estado:

𝑋̇(𝑡) = 𝑓[𝑋(𝑡), 𝑢(𝑡), 𝑡] Para 𝑡 ∈ [𝑡0 , 𝑡1 ]


Con 𝑋(𝑡0 ) = 𝑋0

El problema básico del control óptimo se puede expresar de la siguiente manera:

𝑡1
Max 𝐽 = ∫ 𝐹 (𝑋 (𝑡 ), 𝑢(𝑡 ), 𝑡 )𝑑𝑡
{𝑢(𝑡)} 𝑡0

𝑆. 𝑎 𝑋̇ (𝑡) = 𝑓 [𝑋(𝑡), 𝑢(𝑡), 𝑡]


Con 𝑋(𝑡0 ) = 𝑋0
𝑢(𝑡) ∈ 𝛀(𝑡)

Donde 𝛀 representa el conjunto de restricciones físicas de la variable de control (conjunto


factible). Un caso más general viene dado por:

𝑡1
Max 𝐽 = ∫ 𝐹(𝑋(𝑡), 𝑢(𝑡), 𝑡)𝑑𝑡 + 𝑆[ 𝑋(𝑡1 ) ]
{𝑢(𝑡)} 𝑡0

𝑆. 𝑎 𝑋̇ (𝑡) = 𝑓 [𝑋(𝑡), 𝑢(𝑡), 𝑡]


Con 𝑋(𝑡0 ) = 𝑋0
𝑢(𝑡) ∈ 𝛀(𝑡)

El término 𝑆[𝑋(𝑡1 ) ] hace referencia al estado en el que queda el sistema al final del periodo
considerado.
PRINCIPIO DEL MÁXIMO DE PONTRAYAGIN

Este principio plantea las condiciones necesarias de optimalidad y se basa en una función llamada
función hamiltoniana, o simplemente Hamiltoniano (H). El Hamiltoniano se representa de la
siguiente manera:

𝐻 ( 𝑋, 𝑢, 𝜆, 𝑡) = 𝐹(𝑋, 𝑢, 𝑡) + 𝜆 𝑓(𝑋, 𝑢, 𝑡)

A la variable 𝜆(𝑡) se la conoce como Variable de Coestado, y su papel es equivalente a la constante


de Lagrange en el problema de optimización estática

CONDICIONES NECESARIAS DEL PRINCIPIO DEL ÓPTIMO


Las condiciones del principio del máximo de Pontrayagin, son las siguientes (se omite la
demostración):

• Requerimos escoger 𝑢(𝑡) de tal manera que se maximice H en todo instante.

1) 𝐻 (𝑋, 𝑢 ∗, 𝜆, 𝑡) ≥ 𝐻 ( 𝑋, 𝑢, 𝜆, 𝑡), 𝑃𝑎𝑟𝑎 𝑡 𝜖 [𝑡𝑜 , 𝑡1 ]

• Cumplir con las ecuaciones de movimiento.

𝜕𝐻
2) 𝑋̇ = 𝑓(𝑋, 𝑢, 𝑡 ) =
𝜕λ
(Ecuación de la variable de estado)

𝜕𝐻
3) λ̇ = −
𝜕X
(Ecuación de la variable de coestado)

• Cumplir con la condición de transversalidad y la condición inicial

𝜕𝑆[𝑋(𝑡1 )]
4) = λ(𝑡1 )
𝜕X
(Condición de Transversalidad)

5) 𝑋(𝑡0 ) = 𝑋0
(Condición Inicial)
EJERCICIOS CON "𝒖" NO ACOTADA

Ejemplo 1:
1
Max 𝐽 = ∫ (𝑋 + 𝑢)𝑑𝑡
{𝑢(𝑡)} 0
S. a: 𝑋̇ = 1 − 𝑢2
Con 𝑋(𝑡0 ) = 1; 𝑋(𝑡1 ) es libre
Nótese que 𝑢(𝑡) no está acotada a ningún rango de valores.

Planteamos el hamiltoniano:

𝐻 = 𝑋 + 𝑢 + 𝜆(1 − 𝑢2 )

1) Ecuación variable de coestado:

𝜕𝐻
λ̇ = − = −1
𝜕X

Solucionamos esta ecuación diferencial integrándola:

∫ λ̇ = ∫ −1

𝑑𝜆
∫ = ∫ −1
𝑑𝑡

𝜆 = −𝑡 + 𝑘1

𝜆∗ (𝑡) = 𝑘1 − 𝑡 Para 𝑡 ∈ [0,1]

2) Utilizando la condición de transversalidad:

𝜆(𝑡1 ) = 0

Reemplazando en: 𝜆∗ (𝑡) = 𝑘1 − 𝑡

𝜆(1) = 𝑘1 − 1 = 0, lo que implica que 𝑘1 = 1

𝜆∗ (𝑡) = 1 − 𝑡 Para 𝑡 ∈ [0,1]

3) Maximizamos 𝐻 con respecto a 𝑢(𝑡), que no está acotada


Max 𝐻 = (𝑋 + 𝑢) + 𝜆(1 − 𝑢2 )
{𝑢(𝑡)}

𝜕𝐻
= 1 − 2𝜆𝑢 = 0
𝜕𝑢

1
𝑢∗ =
2𝜆∗
Reemplazando 𝜆∗ (𝑡) = 1 − 𝑡 en 𝑢∗ :
1
𝑢∗ =
2(1 − 𝑡)

Al maximizar 𝐻 de hecho se está maximizando 𝐽. Esto implica que la condición necesaria de


segundo orden se obtiene derivando nuevamente 𝐻 con respecto a 𝑢. En este caso

𝜕 2𝐻
= −2𝜆 < 0
𝜕𝑢2

Lo que nos indica que estamos frente a un máximo, ya que 𝜆 toma únicamente valores entre [0,1]

4) Sustituimos 𝑢∗ en 𝑋̇

𝑋̇ = 1 − 𝑢2

1
𝑋̇ = 1 − 𝑢∗ 2 = 1 −
4(1−𝑡)2

Integrando la ecuación diferencial:

1
∫ 𝑑𝑋 = ∫ 1 − 𝑑𝑡
4(1 − 𝑡)2

1
𝑋 ∗ (𝑡) = 𝑡 − + 𝑘2
4(1 − 𝑡)

Utilizando la condición inicial 𝑋(0) = 1

1 5
𝑋(0) = 0 − 4 + 𝑘2 = 1, lo que implica que 𝑘2 = 4

1 5
𝑋 ∗ (𝑡) = 𝑡 − 4(1−𝑡) + 4 Para 𝑡 ∈ [0,1]

Nota: Nótese que en las funciones 𝜆∗ , 𝑢∗ 𝑦 𝑋 ∗ no aparece ninguna otra variable más que “t”.
Ejemplo 2:
5
Max 𝐽 = ∫ (𝑢𝑋 − 𝑢2 − 𝑋2 )𝑑𝑡
{𝑢(𝑡)} 1
S. a: 𝑋̇ = 𝑋 + 𝑢
Con 𝑋(1) = 2; 𝑋(5) es libre

Planteamos el Hamiltoniano

𝐻 = (𝑢𝑋 − 𝑢2 − 𝑋 2 ) + 𝜆(𝑋 + 𝑢)

𝜕𝐻
1) 𝜆̇ = − = −(𝑢 − 2𝑋 + 𝜆)
𝜕𝑋

𝜆̇ = 2𝑋 − 𝑢 − 𝜆

La condición de transversalidad implica que 𝜆(5) = 0

2) Max 𝐻 = 𝑢𝑋 − 𝑢2 − 𝑋2 + 𝜆(𝑋 + 𝑢)
{𝑢(𝑡)}

𝜕𝐻
= 𝑋 − 2𝑢 + 𝜆 = 0
𝜕𝑢

𝑋+𝜆
Con lo que 𝑢 ∗ =
2

𝜕2 𝐻
De = −2 < 0 deducimos que estamos frente a un máximo
𝜕𝑢2

3) Planteamos la ecuación de estado.

𝑋̇ = 𝑋 + 𝑢

Reemplazando 𝑢∗

𝑋+𝜆 3 1
𝑋̇ = 𝑋 + ( )= 𝑋+ 𝜆
2 2 2

Con 𝑋(1) = 2

Nótese que tenemos un sistema de ecuaciones diferenciales dado por:


3 1
𝑋̇ = 𝑋 + 𝜆
2 2
𝑋+𝜆 3 3
𝜆̇ = 2𝑋 − ( )−𝜆 =− 𝜆+ 𝑋
2 2 2

Sistema lineal homogéneo de ecuaciones diferenciales de primer orden:

3 1
𝑋̇ = 𝑋+ 𝜆
2 2
3 3
𝜆̇ = 𝑋 − 𝜆
2 2
Escribiendo el sistema matricialmente

̇ 3/2 1/2 𝑋
(𝑋) = ( )( )
̇𝜆 3/2 −3/2 𝜆

Para resolver el sistema encontramos los valores propios, siendo éstos 𝑟1 = √3 y 𝑟2 = −√3.
Obtenemos los vectores propios:

Con 𝑟1 = √3 tenemos:

3/2 1/2 𝑒1 0
[( ) − (√3 0 )] (𝑒 ) = ( )
3/2 −3/2 0 √3 2 0

−0,23205 0,5 𝑒1 0
( ) (𝑒 ) = ( )
1,5 −3,23205 2 0

−0,23205𝑒1 + 0,5𝑒2 = 0

𝑒2 = 0,4641𝑒1

1
𝑣1 = ( )
0,4641

Con 𝑟2 = −√3 tenemos:

1
𝑣2 = ( )
−6,4641

La solución del sistema viene por tanto, dado por

𝑋 ∗ (𝑡) = 𝑘1 𝑒 √3𝑡 + 𝑘2 𝑒 −√3𝑡


𝜆∗ (𝑡 ) = 0,464𝑘1 𝑒 √3𝑡 − 6,464𝑘2 𝑒 −√3𝑡

Se encuentra 𝑘1 𝑦 𝑘2 utilizando la condición inicial y la de transversalidad

𝑋 ∗ (1) = 𝑘1 𝑒√3 + 𝑘2 𝑒−√3 = 2


𝜆∗ (5) = 0,464𝑘1 𝑒 5√3 − 6,464𝑘2 𝑒 −5√3 = 0

Resolviendo este sistema, encontramos que

𝑘1 = 0,00000473
𝑘2 = 11,304

Finalmente, lo solución para 𝑋, 𝑢 y 𝜆 viene dada por:

𝑋 ∗ (𝑡) = 0,00000473𝑒 √3𝑡 + 11,304𝑒 −√3𝑡

𝜆∗ (𝑡) = 0,00000219𝑒 √3𝑡 − 73.069𝑒 −√3𝑡

∗ (𝑡)
𝑋 ∗ + 𝜆∗
𝑢 = = 0.00000346𝑒 √3𝑡 − 30.88𝑒 −√3𝑡 𝑃𝑎𝑟𝑎 𝑡 𝜖 [1,5]
2

Ejemplo 3:
1
Min 𝐽 = ∫ 𝑢2 𝑑𝑡 + 𝑋2 (1)
{𝑢(𝑡)} 0
𝑆. 𝑎: 𝑋̇ = 𝑋 + 𝑢
Con 𝑋(0) = 1; 𝑋(1) 𝑒𝑠 𝑙𝑖𝑏𝑟𝑒

Planteamos el Hamiltoniano

𝐻 = 𝑢2 + 𝜆(𝑋 + 𝑢)

𝜕𝐻
1) 𝜆̇ = − = −𝜆
𝜕𝑋

Cuya solución es

𝜆∗ (𝑡) = 𝑘1 𝑒 −𝑡 𝑝𝑎𝑟𝑎 𝑡 𝜖 [0,1]

Con λ∗ (1) = 2𝑋 ∗ (1) por la condición de transversalidad


2) Min 𝐻 = 𝑢2 + 𝜆(𝑋 + 𝑢)
{𝑢(𝑡)}

𝜕𝐻
= 2𝑢 + 𝜆 = 0
𝜕𝑢

1
𝑢∗ = − 𝜆∗
2
Reemplazando 𝜆∗

1
𝑢∗ = − 2 (𝑘1 𝑒 −𝑡 )

𝑘1 −𝑡
𝑢∗ = − 𝑒
2

𝜕2 𝐻
La segunda derivada = 2 > 0 nos indica que sí estamos frente a un mínimo
𝜕𝑢2

3) Ecuación de estado

𝑋̇ = 𝑋 + 𝑢

Reemplazamos 𝑢∗

𝑘
𝑋̇ = 𝑋 − 21 𝑒 −𝑡 , con 𝑋(0) = 1

Solucionamos esta ecuación diferencial no homogénea:

Solución de la ecuación Homogénea 𝑋̇ = 𝑋

𝑋ℎ = 𝑘2 𝑒 𝑡

Solución Particular:

𝑋𝑝 = 𝐴𝑒 −𝑡
𝑋̇𝑝 = −𝐴𝑒 −𝑡

Reemplazando:
𝑘1
−𝐴𝑒 −𝑡 = 𝐴𝑒 −𝑡 − 𝑒 −𝑡
2
𝑘1
−2𝐴𝑒 −𝑡 = − 𝑒 −𝑡
2
𝑘1
𝐴= 4
𝑘1
𝑋𝑝 = 𝑒 −𝑡
4

Finalmente, tenemos

𝑘1
𝑋 ∗ (𝑡 ) = 𝑘 2 𝑒 𝑡 + 𝑒 −𝑡
4
Con 𝑋(0) = 1

4) Aplicando la condición inicial.


𝑘1
𝑋 ∗ (0) = 𝑘2 + = 1
4
𝑘1
𝑘2 = 1 −
4

Reemplazando en 𝑋 ∗

𝑘1 𝑡 𝑘1 −𝑡
𝑋 ∗ (𝑡) = (1 − )𝑒 + 𝑒
4 4

5) Aplicando la condición de transversalidad

2𝑋 ∗ (1) = λ∗ (1)

𝑘1 𝑘1
2 (1 − ) 𝑒 + 𝑒 −1 = 𝑘1 𝑒 −1
4 2
𝑘1 𝑘1 −1
2𝑒 − 𝑒 + 𝑒 − 𝑘1 𝑒 −1 = 0
2 2
𝑘1 𝑘1 −1
2𝑒 − 𝑒 − 𝑒 = 0
2 2
1 1 −1
−𝑘1 ( 𝑒 + 𝑒 ) = −2𝑒
2 2

2𝑒
𝑘1 =
1 1
(2 𝑒 + 2 𝑒 −1 )

2𝑒
𝑘1 =
1 −1 )
(𝑒
2 +𝑒

4𝑒
𝑘1 =
(𝑒 + 𝑒 −1 )
4𝑒 2
𝑘1 = 2
𝑒 +1

𝑒2
𝑘2 = 1 −
𝑒2 + 1

1
𝑘2 =
𝑒2 + 1

Finalmente, las soluciones son:

1 𝑒2
𝑋 ∗ (𝑡) = ( 2 ) 𝑒𝑡 + ( 2 ) 𝑒 −𝑡 𝑝𝑎𝑟𝑎 𝑡 ∈ [0,1]
𝑒 +1 𝑒 +1
∗ (𝑡)
4𝑒 2
𝜆 =( 2 ) 𝑒 −𝑡 𝑝𝑎𝑟𝑎 𝑡 ∈ [0,1]
𝑒 +1
2𝑒 2
𝑢∗ (𝑡) = − ( 2 ) 𝑒 −𝑡 𝑝𝑎𝑟𝑎 𝑡 ∈ [0,1]
𝑒 +1

EJERCICIOS CON "𝒖" ACOTADA

1) Control Bang-Bang: En este tipo de problemas 𝑢(𝑡) está acotada y 𝐻 es una función lineal
de 𝑢(𝑡). Esto garantiza que el valor óptimo buscado para 𝐻 sea una solución de frontera.
Aclaremos más este aspecto con un ejemplo.

Ejercicio 1: Suponga el siguiente problema de maximización:

2
𝑀á𝑥 𝐽 = ∫ (2𝑋 − 3𝑢)𝑑𝑡
{𝑢(𝑡)} 0
𝑆. 𝑎: 𝑋̇ = 𝑋 + 𝑢
Con 𝑋(0) = 4; 𝑋(2) 𝑒𝑠 𝑙𝑖𝑏𝑟𝑒
𝑢(𝑡) ∈ 𝛀 [0,2]

Nótese que como 𝑢(𝑡) está acotada ahora es posible tener soluciones de frontera. El hamiltoniano
en este caso es:
𝐻 = (2𝑋 − 3𝑢) + 𝜆(𝑋 + 𝑢)

Re-expresando el Hamiltoniano en términos de 𝑢:

𝐻 = (2 + 𝜆)𝑋 + 𝑢(𝜆 − 3)
Vemos que 𝐻 es una función lineal de 𝑢. La siguiente gráfica nos muestra los valores de 𝐻 en
términos de 𝑢.

Si 𝜆 > 3 la función hamiltoniana es lineal y creciente con respecto a la variable de control. Es


lineal y decreciente si 𝜆 < 3. En el primer caso, alcanzará su máximo cuando 𝑢 = 2, mientras que
en el segundo lo hará si 𝑢 = 0. En resumen:

2 𝜆>3
𝑢(𝑡)∗ = { } 𝑠𝑖 { }
0 𝜆<3

Con esta información procedemos a plantear las condiciones del máximo. Primero encontramos
la ecuación de movimiento de la variable de coestado

𝜕𝐻
𝜆̇ = − = −2 − 𝜆
𝜕𝑥

Integrando, tenemos:

𝜆(𝑡) = 𝑘1 𝑒 −𝑡 − 2 Con 𝜆(2) = 0

Utilizando la condición de transversalidad:

𝜆(2) = 𝑘1 𝑒 −2 − 2 = 0
𝑘1 = 2𝑒 2

Por lo que:
𝜆∗ (𝑡) = 2𝑒 2−𝑡 − 2

Encontrando 𝜆∗ (0) 𝑦 𝜆∗ (2):


𝜆∗ (0) = 2𝑒 2−0 − 2 = 12,78
𝜆∗ (2) = 2𝑒 2−2 − 2 = 0

Para hallar un valor de “𝑡” tal que 𝜆 = 3, tenemos que 2𝑒 2−𝑡 − 2 = 3. Despejando “𝑡” se tiene
que 𝑡 = 1,084. Cuando

𝑡 ∈ [0; 1,084] 𝜆 > 3 ⟹ 𝑢∗ = 2


𝑡 ∈ [1,084; 2] 𝜆 < 3 ⟹ 𝑢∗ = 0

Gráficamente:

Entonces:
𝑢∗ (𝑡) = 2, si 0 ≤ 𝑡 ≤ 1,084
𝑢∗ (𝑡) = 0, si 1,084 ≤ 𝑡 ≤ 2

Finalmente, planteamos la ecuación de estado:

𝑋̇ = 𝑋 + 𝑢

Resolviendo tenemos:
𝑋 ∗ (𝑡) = 𝑘2 𝑒 𝑡 − 𝑢 𝐶𝑜𝑛 𝑋(0) = 4

Encontramos 𝑘2 :
𝑋 ∗ (0) = 𝑘2 − 𝑢 = 4
𝑘2 = 4 + 𝑢

Reemplazando tenemos:

𝑋 ∗ (𝑡) = (4 + 𝑢∗ )𝑒 𝑡 − 𝑢∗

Finalmente

𝑋 ∗ (𝑡) = 6𝑒 𝑡 − 2, si 0 ≤ 𝑡 ≤ 1,084
𝑋 ∗ (𝑡) = 4𝑒 𝑡 , si 1,084 ≤ 𝑡 ≤ 2

Ejercicio 2:
1
𝑀á𝑥 𝐽 = ∫ (−𝑋)𝑑𝑡
{𝑢(𝑡)} 0
𝑆. 𝑎: 𝑋̇ = 𝑢
Con 𝑋(0) = 1; 𝑋(1) 𝑒𝑠 𝑙𝑖𝑏𝑟𝑒
𝑢(𝑡) Є 𝛀 [−1,1]

Planteamos el Hamiltoniano:
𝐻 = −𝑋 + 𝜆𝑢

La ecuación de movimiento de la variable de coestado es:

𝜕𝐻
𝜆̇ = − =1
𝜕𝑋

Integrando, tenemos:

𝜆∗ (𝑡) = 𝑘1 + 𝑡

Usando la condición de transversalidad, 𝜆(1) = 0

𝜆(1) = 𝑘1 + 1 = 0

𝜆∗ (𝑡) = 𝑡 − 1 𝑝𝑎𝑟𝑎 0 ≤ 𝑡 ≤ 1
Esto limita los casos a la posibilidad única de que 𝜆 < 0, ya que “𝑡” solo puede tomar valores
entre 0 𝑦 1. Por lo tanto:

𝑢∗ (𝑡) = −1 𝑝𝑎𝑟𝑎 0 ≤ 𝑡 ≤ 1
Gráficamente:

En cuanto a la ecuación de movimiento de la variable de estado, tenemos:

𝑋̇ = 𝑢 𝑐𝑜𝑛 𝑋(0) = 1

𝑋 ∗ (𝑡) = 𝑢𝑡 + 𝑘2 , utilizando la condición inicial:

𝑋 ∗ (0) = 𝑘2 = 1

𝑋 ∗ (𝑡) = 𝑢𝑡 + 1 𝑐𝑜𝑛 𝑢∗ = −1

𝑋 ∗ (𝑡) = 1 − 𝑡 𝑝𝑎𝑟𝑎 𝑡 ∈ [0,1]

2) Aplicando condiciones de KKT

2
𝑀á𝑥 𝐽 = ∫ (2𝑥 − 3𝑢 − 𝑢2 )𝑑𝑡
{𝑢(𝑡)} 0
𝑆. 𝑎: 𝑥̇ = 𝑥 + 𝑢
Con 𝑥(0) = 5; 𝑥(2) 𝑒𝑠 𝑙𝑖𝑏𝑟𝑒
𝑢(𝑡) Є 𝛀 [0,2]
El hamiltoniano en este caso es:

𝐻 = (2𝑥 − 3𝑢 − 𝑢2 ) + 𝜆(𝑥 + 𝑢)

1) Iniciamos planteando la ecuación de movimiento de la variable de coestado,

𝜆̇ = −2 − 𝜆, con 𝜆(2) = 0. Resolviendo esta ecuación:

𝜆∗ (𝑡) = 𝑘1 𝑒 −𝑡 − 2 para 𝑡 ∈ [0,2]. Utilizando la condición inicial:

𝜆∗ (2) = 𝑘1 𝑒 −2 − 2 = 0, lo que resulta en que 𝑘1 = 2𝑒 2

Por lo tanto:
𝜆∗ (𝑡) = 2𝑒 2−𝑡 − 2 𝑝𝑎𝑟𝑎 𝑡 ∈ [0,2]

2) Ahora maximizamos 𝐻 con respecto a 𝑢:

𝑀á𝑥 𝐻 = (2𝑥 − 3𝑢 − 𝑢2 ) + 𝜆(𝑥 + 𝑢)


{𝑢(𝑡)}
𝑆. 𝑎: 𝑢 ≥ 0
2−𝑢 ≥0

Agrupando los términos del hamiltoniano:

𝑀á𝑥 𝐻 = (2 + 𝜆)𝑥 + (𝜆𝑢 − 3𝑢 − 𝑢2 )


{𝑢(𝑡)}

𝑆. 𝑎: 𝑢 ≥ 0
2−𝑢 ≥0

Sea 𝐹(𝑢) = (𝜆𝑢 − 3𝑢 − 𝑢2 ). En este caso podemos escribir el problema como:

𝑀á𝑥 𝐹 = 𝜆𝑢 − 3𝑢 − 𝑢2
{𝑢(𝑡)}
𝑆. 𝑎: 𝑢 ≥ 0
2−𝑢 ≥0

Este es un problema de Optimización Estática con restricciones de desigualdad. Aplicamos las


condiciones de KKT al siguiente lagrangeano:

ℒ = −𝑢2 + 𝑢(𝜆 − 3) + δ1 (2 − 𝑢) + δ2 (𝑢)


Las condiciones KKT son:
ℒ𝑢 ≤ 0 ; ℒ𝑢 𝑢 = 0
ℒδ1 ≥ 0 ; ℒδ1 δ1 = 0
ℒδ2 ≥ 0 ; ℒδ2 δ2 = 0

Aplicando estas condiciones al presente caso:


1) ℒ𝑢 = −2𝑢 + (λ − 3) − δ1 + δ2 ≤ 0 ; ℒ𝑢 𝑢 = 0
2) ℒδ1 = 2 − 𝑢 ≥ 0 ; ℒδ1 δ1 = 0
3) ℒδ2 = 𝑢 ≥ 0 ; ℒδ2 δ2 = 0

Ello nos lleva a considerar 8 casos posibles (8 = 23 )

Caso 𝒖 𝛅𝟏 𝛅𝟐
1 0 0 0
2 0 0 +
3 0 + 0
4 0 + +
5 + 0 0
6 + 0 +
7 + + 0
8 + + +

CASO I: 𝒖 = 𝛅𝟏 = 𝛅𝟐 = 𝟎
Vemos que:

ℒδ2 = 𝑢 = 0 ≥0; ℒδ2 δ2 = 0


ℒδ1 = 2 − 𝑢 = 2 − 0 = 2 ≥0; ℒδ1 δ1 = 0
ℒ𝑢 = −2𝑢 + (λ − 3) − δ1 + δ2 = (λ − 3) ≤ 0 ; ℒ𝑢 𝑢 = 0
Por tanto cumple con todas las condiciones de KKT, lo que indica que este caso es factible.
Tenemos que:
𝜆∗ (𝑡) = 2𝑒 2−𝑡 − 2 𝑝𝑎𝑟𝑎 𝑡 𝜖 [0,2]
Reemplazamos en la condición anterior
2𝑒 2−𝑡 − 2 − 3 ≤ 0
2𝑒 2−𝑡 − 5 ≤ 0
𝑒 2−𝑡 ≤ 2,5
2 − 𝑡 ≤ ln 2,5
−𝑡 ≤ −1,084
𝑡 ≥ 1,084 𝑢(𝑡) = 0

Esto implica que:


𝑢 ∗ (𝑡) = 0, para 1.084 ≤ 𝑡 ≤ 2

Caso II: 𝑢 = 0 ; δ1 = 0; δ2 > 0


ℒδ2 = 𝑢 = 0 ≥0; ℒ δ2 δ2 = 0
ℒδ1 = 2 ≥ 0 ; ℒδ1 δ1 = 2(0) = 0
ℒ𝑢 = (λ − 3) + δ2 ≤ 0 ; ℒ𝑢 𝑢 = 0

Esto implica que:


(𝜆∗ − 3) ≤ 0, dado que δ2 > 0

2𝑒 2−𝑡 − 5 ≤ 0

Este resultado es redundante con el anterior, por lo que:

𝑢∗ (𝑡) = 0, para 1.084 ≤ 𝑡 ≤ 2

Caso III: 𝑢 = 0 ; δ1 > 0; δ2 = 0


ℒδ2 = 0; ℒδ2 δ2 = 0
ℒδ1 = 2 − 0 ≥ 0 ; 2δ1 > 0 ≠ 0
ℒ𝑢 = (λ − 3) − δ1 ≤ 0 ; ℒ𝑢 𝑢 = 0

En este caso no se cumple la condición 2δ1 = 0

Caso IV: 𝑢 = 0 ; δ1 > 0; δ2 > 0


Es fácil verificar que no cumplen todas las condiciones

Caso V: 𝑢 > 0 ; δ1 = δ2 = 0

ℒδ2 = 𝑢 ≥ 0; ℒδ2 δ2 = 0
ℒδ1 = 2 − 𝑢 ≥ 0 ; ℒδ1 δ1 = 0
ℒ𝑢 = −2𝑢 + (λ − 3) ≤ 0; ℒ𝑢 𝑢 = 0

Por lo tanto tiene que cumplir que −2𝑢 + (λ − 3) ≤ 0 y 2 − 𝑢 ≥ 0. En el primer caso la


condición se cumple si −2𝑢 + (λ − 3) = 0. Por tanto tenemos que:

(λ∗ − 3)
𝑢∗ (𝑡) =
2
La segunda condición implica que 2 − 𝑢 ≥ 0. Conjuntamente con el hecho de que 𝑢 > 0, tenemos
que 0 < 𝑢 ≤ 2. Reemplazando 0 < 𝑢 ≤ 2 en 𝑢∗ (𝑡)

(λ∗ − 3)
0< ≤2
2
0 < 2𝑒 2−𝑡 − 5 ≤ 4
5 < 2𝑒 2−𝑡 ≤ 9
2,5 < 𝑒 2−𝑡 ≤ 4,5
ln(2,5) < 2 − 𝑡 ≤ ln(4,5)
−1,084 < −𝑡 ≤ −0,4959
1,084 > 𝑡 ≥ 0,4959
De este resultado se deduce que:

𝑢∗ (𝑡) = 𝑒 2−𝑡 − 2,5 para 0,496 ≤ 𝑡 < 1,08

Caso VI: 𝑢 > 0 ; δ1 = 0; δ2 > 0

ℒδ2 = 𝑢 > 0 ℒδ2 δ2 ≠ 0

Por lo que se descarta este caso.

Caso VII: 𝑢 > 0 ; δ1 > 0; δ2 = 0

ℒδ2 = 𝑢 > 0; ℒδ2 δ2 = 0


ℒδ1 = 2 − 𝑢 ≥ 0 ℒδ1 δ1 = 0
ℒ𝑢 = −2𝑢 + (λ − 3) − δ1 ≤ 0 ; ℒ𝑢 𝑢 = 0
Las condiciones de KKT se cumplen únicamente si −2𝑢 + (λ − 3) − δ1 = 0 y si 𝑢 = 2 (ya que
es la única forma en la que ℒδ1 δ1 = 0. Por lo tanto 𝑢∗ (𝑡) = 2. De la otra condición, tenemos:

−δ1 − 2𝑢 + (λ − 3) = 0
δ1 = −2𝑢∗ + (𝜆∗ − 3) ≥ 0 Recordando que δ1 > 0

Reemplazamos 𝑢∗ 𝑦 𝜆∗ en la ecuación previa

δ1 = −2(2) + 2𝑒 2−𝑡 − 5 > 0


−4 + 2𝑒 2−𝑡 − 5 > 0
2𝑒 2−𝑡 > 9
𝑒 2−𝑡 > 4,5
𝑡 < 0,496

𝑢∗ (𝑡) = 2 para 0 ≤ 𝑡 < 0,496

Caso VIII: 𝑢 > 0 ; δ1 > 0; δ2 > 0


No cumple las condiciones, ya que
ℒδ2 = 𝑢 > 0; ℒδ2 δ2 ≠ 0

Finalmente, obtenemos la solución para la variable de estado;


𝑥̇ = 𝑥 + 𝑢, de donde:

𝑥 ∗ (𝑡) = 𝑘2 𝑒 𝑡 − 𝑢∗ con 𝑥(0) = 5

2, 0 ≤ 𝑡 < 0,496
∗ (𝑡) 2−𝑡
𝑢 = {𝑒 − 2,5, 0,496 ≤ 𝑡 < 1.08
0, 1,08 ≤ 𝑡 ≤ 2

Encontramos las distintas trayectorias de 𝑥 reemplazando 𝑢∗ en la ecuación de movimiento de la


variable de estado; el valor de 𝑘2 se determinaría utilizando la condición inicial.
La siguiente gráfica representa los distintos valores que toma la variable de control 𝑢∗ (𝑡) para
maximizar el funcional entre 𝑡 = 0 y 𝑡 = 2.
CONDICIONES FINALES ALTERNATIVAS
1) Instante Final Dado (𝒕𝟏 ) y Estado Final Libre 𝑿(𝒕𝟏 ):

Requerimos de la condición inicial 𝑋(𝑡0 ) = 𝑋0 y de la condición de transversalidad,


𝑑𝑆[𝑋(𝑡1 )]
= 𝜆(𝑡1 )
𝑑𝑋
Este es el caso que hemos venido trabajando. Veamos ahora otros casos.
2) Instante Final Dado (𝒕𝟏 ) y Estado Final Dado 𝑿(𝒕𝟏 ).

Para resolver este caso, requerimos de la condición inicial 𝑋(𝑡0 ) = 𝑋0 , la condición final 𝑋(𝑡1 ) =
𝑋1.

3) Instante Final Libre (𝒕𝟏 ) y Estado Final Dado 𝑿(𝒕𝟏 ) = 𝑿𝟏 .

Requerimos de la condición inicial 𝑋(𝑡0 ) = 𝑋0 , la condición final 𝑋(𝑡1 ) = 𝑋1 y una condición


de transversalidad que se expresa como:

∗ (𝑡); ∗ (𝑡); ∗ (𝑡),


𝜕𝑆[𝑋 ∗ (𝑡1 )]
𝐻[𝑋 𝑢 𝜆 𝑡]𝑡=𝑡1 + =0
𝜕𝑡1
Ejercicio
𝑡1
𝑀𝑖𝑛 𝐽 = ∫ (𝑡2 + 𝑢2 )𝑑𝑡
{𝑢(𝑡)} 0

𝑆. 𝑎: 𝑋̇ = 𝑢
Con 𝑋(0) = 4; 𝑋(𝑡1 ) = 5

El Hamiltoniano es
𝐻 = 𝑡 2 + 𝑢2 + 𝜆𝑢

La ecuación de movimiento de la variable de coestado, 𝜆̇ = 0, presenta la siguiente solución:

𝜆∗ (𝑡) = 𝑘1 para 𝑡 ∈ [0, 𝑡1 ]

Ahora minimizamos el hamiltoniano con respecto a la variable de control

𝑀𝑖𝑛 𝐻 = 𝑡2 + 𝑢2 + 𝜆𝑢
{𝑢(𝑡)}

𝜕𝐻
= 2𝑢 + 𝜆 = 0
𝜕𝑢

∗ (𝑡)
𝜆∗
𝑢 =−
2

Reemplazando el valor de 𝜆∗ obtenido previamente:

𝑘1
𝑢∗ (𝑡) = − para 𝑡 ∈ [0, 𝑡1 ]
2

Para verificar si estamos frente a un mínimo, obtenemos:

𝜕 2𝐻
=2>0
𝜕𝑢2

La ecuación de la variable de estado 𝑋̇ = 𝑢, tiene la siguiente solución:

𝑘1
𝑋 ∗ (𝑡) = − 𝑡 + 𝑘2 , con 𝑋(0) = 4 y 𝑋(𝑡1 ) = 5
2

Utilizando la condición inicial:


𝑋 ∗ (0) = 𝑘2 = 4

Utilizando la condición final:

𝑘1
𝑋 ∗ (𝑡1 ) = − 𝑡 +4=5
2 1
2
Por lo que 𝑘1 = − 𝑡
1

𝑡
𝑋 ∗ (𝑡) = +4 para 𝑡 ∈ [0, 𝑡1 ]
𝑡1

Finalmente aplicamos la condición de transversalidad:

[𝐻]𝑡=𝑡1 = 0

[𝐻 ∗ ]𝑡=𝑡1 = 𝑡1 2 + 𝑢2 + 𝜆𝑢 = 0

1 2
[𝐻 ∗ ]𝑡=𝑡1 = [𝑡12 + 2 − 2] = 0
𝑡1 𝑡1

1
𝑡12 − =0
𝑡12

Con lo que el valor de 𝑡1 queda definido en 𝑡1 = 1

En resumen,
𝑋 ∗ (𝑡) = 𝑡 + 4

𝑢∗ (𝑡) = 1

𝜆∗ (𝑡) = −2
Para 𝑡 ∈ [0,1]

HAMILTONIANO VALOR PRESENTE


En la mayor parte de aplicaciones económicas en el funcional objetivo suele aparecer un valor de
descuento del tipo 𝑒 −𝛿𝑡 donde 𝛿 representa un término subjetivo de descuento intertemporal. El
problema típico se puede escribir de la siguiente forma:
𝑇
𝑀á𝑥 𝐽 = ∫ 𝐺(𝑋, 𝑢, 𝑡)𝑒−𝛿𝑡 𝑑𝑡
{𝑢(𝑡)} 0
𝑆. 𝑎: 𝑋̇ = 𝑓(𝑋, 𝑢, 𝑡)
Con 𝑋(0) = 𝑋0
𝑢(𝑡) ∈ 𝛀

En este caso el hamiltoniano será:

𝐻 = 𝐺(𝑋, 𝑢, 𝑡)𝑒 −𝛿𝑡 + 𝜆𝑓(𝑋, 𝑢, 𝑡)

Las condiciones de optimalidad, por su parte son:

𝜕𝐻 𝜕𝐺 𝜕𝑓
• 𝜆̇ = − 𝜕𝑋 = − 𝜕𝑋 𝑒 −𝛿𝑡 − 𝜆 𝜕𝑋

• 𝐶𝑜𝑛 𝜆(𝑇) = 0

• 𝑀á𝑥 𝐻
{𝑢(𝑡)}

• 𝑋̇ = 𝑓(𝑋, 𝑢, 𝑡) con 𝑋(0) = 𝑋0

• Si T es libre, entonces la condición de transversalidad sería [𝐻]𝑡=𝑇 = 0.

Se define el Hamiltoniano Valor Presente ℋ como:

ℋ = 𝐻𝑒 𝛿𝑡 = 𝐺(𝑋, 𝑢, 𝑡) + 𝜆𝑓(𝑋, 𝑢, 𝑡)𝑒 𝛿𝑡

Por otro lado, definimos a la variable 𝑚(𝑡) = 𝜆(𝑡)𝑒 𝛿𝑡 . De aquí es fácil encontrar que:

𝜆(𝑡) = 𝑚(𝑡)𝑒 −𝛿𝑡


𝜆̇(𝑡) = −𝛿𝑒 −𝛿𝑡 𝑚(𝑡) + 𝑚̇(𝑡) 𝑒 −𝛿𝑡

Re-expresando el Hamiltoniano Valor Presente:

ℋ = 𝐺(𝑋, 𝑢, 𝑡) + 𝑚𝑓(𝑋, 𝑢, 𝑡)

Ahora re-expresamos las condiciones de optimalidad.

𝜕𝐺 −𝛿𝑡 𝜕𝑓
𝜆̇ = − 𝑒 −𝜆
𝜕𝑋 𝜕𝑋
Reemplazando 𝜆 y 𝜆̇:
𝜕𝐺 −𝛿𝑡 𝜕𝑓
−𝛿𝑒 −𝛿𝑡 𝑚 + 𝑚̇ 𝑒 −𝛿𝑡 = − 𝑒 − 𝑚𝑒 −𝛿𝑡
𝜕𝑋 𝜕𝑋
𝜕𝐺 𝜕𝑓
𝑚̇ = − −𝑚 + 𝛿𝑚
𝜕𝑋 𝜕𝑋

𝜕ℋ

𝜕𝑋

En resumen, las condiciones de optimalidad expresadas para el hamiltoniano valor presente son:

Condición de la variable de coestado

𝜕ℋ
𝑚̇ = − + 𝛿𝑚
𝜕𝑋

Condición de transversalidad.
𝜆(𝑇) = 0
𝑚(𝑇)𝑒 −𝛿𝑡 = 0 pero como 𝑒 −𝛿𝑡 > 0
𝑚(𝑇) = 0

Maximización de H

𝑀á𝑥 𝐻 = 𝑀á𝑥 ℋ𝑒−𝛿𝑡 𝑒−𝛿𝑡 > 0


{𝑢(𝑡)} {𝑢(𝑡)}

Pero como 𝑒 −𝛿𝑡 > 0, esta condición se reduce a

𝑀á𝑥 ℋ
{𝑢(𝑡)}

Condición de la variable de estado

𝑋̇ = 𝑓(𝑋, 𝑢, 𝑡)

La condición inicial, como siempre es:


𝑋(0) = 𝑋0

Finalmente si “T” no está dado, la condición de transversalidad es:

[ℋ ∗ ]𝑡=𝑇 = 0
PROBLEMA CON HORIZONTE TEMPORAL INFINITO
Considere el siguiente problema de control, con instante final infinito.


𝑀á𝑥 𝐽 = ∫ 𝐹(𝑋, 𝑢, 𝑡) 𝑑𝑡
{𝑢(𝑡)} 0
𝑆. 𝑎: 𝑋̇ = 𝑓(𝑋, 𝑢, 𝑡) con 𝑋(0) = 𝑋0
𝑢(𝑡) ∈ 𝛀

Este tipo de problemas aparecen con mucha frecuencia en aplicaciones económicas. Para su
resolución hay que tomar en cuenta dos puntualizaciones:

1) Se debe asumir que 𝐽 converge a un número real 𝐽 < ∞


2) Se replantea las condiciones de transversalidad.

2.1) Si se da una condición final para 𝑋. En este caso el problema de control se puede
expresar como:

𝑀á𝑥 𝐽 = ∫ 𝐹(𝑥, 𝑢, 𝑡) 𝑑𝑡
{𝑢(𝑡)} 0
𝑆. 𝑎: 𝑋̇ = 𝑓(𝑋, 𝑢, 𝑡)
Con 𝑋(0) = 𝑋0 y lim 𝑋(𝑡) = 𝑋1
𝑡→∞

2.2) No se da una condición final para 𝑋. En este caso se replantea la condición de


transversalidad.

i) Si el problema tiene un factor de descuento intertemporal, la condición de


transversalidad es:
lim 𝜆(𝑡 ) = 0
𝑡→∞

ii) Si el problema no tiene un factor de descuento. Acá la solución de


transversalidad ahora es:

lim [𝐻∗ ]𝑡 = 0
𝑡→∞

También podría gustarte