Documentos de Académico
Documentos de Profesional
Documentos de Cultura
NOTAS DE CLASE
Economía Matemática
UNIDAD V: ELEMENTOS DE
OPTIMIZACIÓN DINÁMICA
Estas Notas Corresponden al Curso de Economía Matemática que se imparte en la carrera de Economía de la
Universidad de Cuenca en el cuarto semestre de estudios. Se agradece a Ximena Bernal por su colaboración en la
digitación de este capítulo.
ELEMENTOS DE OPTIMIZACIÓN DINÁMICA
La Optimización Dinámica estudia la optimización de sistemas dinámicos, es decir, sistemas que varían
con el tiempo. A diferencia de la optimización estática, la optimización dinámica busca una secuencia de
valores (tiempo discreto) o una función (tiempo continuo) que maximice o minimice un funcional.
• Cálculo de Variaciones (Euler, Lagrange, Legendre entre otros. Siglo XVIII). Aplica a
problemas en tiempo continuo, y se la considera la técnica clásica de optimización dinámica.
• Teoría de Control Óptimo (Pontrayagin, principios de los años 60). Utilizada también para
optimizar sistemas dinámicos continuos y que son susceptibles de ser influenciados por fuerzas
externas. Se basa en el principio del máximo de Pontrayagin, que de hecho también se puede
aplicar a problemas en tiempo discreto, pero se lo hace con menor frecuencia
• Programación Dinámica (Bellman, finales de los años 50). La programación dinámica es una
técnica utilizada para optimizar sistemas dinámicos, con mayor aplicación a problemas en
tiempo discreto. Su principio básico es la llamada Ecuación del Bellman.
• Programación dinámica estocástica. Se aplican los principios de la programación dinámica
a procesos estocásticos, es decir procesos que asumen aleatoriedad en el sistema.
CALCULO DE VARIACIONES
Iniciamos este tema con el estudio de la técnica conocida como cálculo de variaciones. Por
simplicidad, asumiremos problemas con una sola variable, y por ahora con condición inicial y
condición final dadas.
Conceptos preliminares
Sean 𝑡0 y 𝑡1 números reales definidos en el intervalo [𝑡0, 𝑡1 ], asumiendo que 𝑡0 < 𝑡1 . Se define al
conjunto de funciones Ω, como:
𝛀 = {𝑋: [𝑡0 , 𝑡1 ] → ℝ/Poseen derivadas continuas}
Considere 𝑋1 y 𝑋2 𝜖 𝛀, con las siguientes propiedades:
i) 𝑋1 (𝑡) + 𝑋2 (𝑡) = (𝑋1 + 𝑋2 )(𝑡)
ii) Para un escalar 𝜆 ϵ ℝ, se tiene que 𝜆𝑋(𝑡) = (𝜆𝑋)(𝑡)
Estas operaciones definen a 𝛀 como un Espacio Vectorial.
Ejemplo 1: Sean 𝑡0 = 1 y 𝑡1 = 5; 𝑋1 (𝑡) = 𝑡 2 y 𝑋2 (𝑡) = 2𝑡 + 1. Además 𝜆 = 3. Aplique las dos
propiedades del párrafo previo.
Tenemos que 𝑋1 (𝑡) + 𝑋2 (𝑡) = 𝑡 2 + 2𝑡 + 1 = (𝑋1 + 𝑋2 )(𝑡)
Por otro lado:
3𝑋1 (𝑡) = 3𝑡 2 = 3𝑋1 (𝑡)
3𝑋2 (𝑡) = 3(2𝑡 + 1) = (6𝑡 + 3) = 3𝑋2 (𝑡)
Definimos ahora la Norma ‖∙‖ en 𝛀. El símbolo ‖∙‖ representa una función que mapea desde 𝛀
hasta los reales:
‖∙‖: 𝛀→ℝ,
𝑋 → ‖𝑋‖ = 𝑀á𝑥 |𝑋(𝑡)| 𝑡 Є [𝑡0 , 𝑡1 ]. Gráficamente
1) ‖𝑋1 ‖ = ‖𝑡 2 ‖ = 𝑀á𝑥 |𝑡 2 | = 25
𝑡 ∈ (1; 5)
1 1
𝑋3′ = [36 − (𝑡 − 4)2 ]−2 [−2(𝑡 − 4)] = 0
2
𝑑(𝑋1 , 𝑋2 ) = 𝑀á𝑥|𝑡 2 − 2𝑡 − 1| = 14
𝑡 ∈ (1,5)
Sea 𝑋0 ∈ 𝛀 y sea 𝛿 ∈ ℝ (𝛿 > 0). Se define a la Bola Abierta con centro 𝑋0 y radio 𝛿, como:
Un funcional 𝐽(𝑋 ) es una aplicación cuyo dominio es un conjunto de funciones y cuyo rango es
un subconjunto de ℝ. En este caso consideramos funcionales 𝐽 cuyo dominio es el conjunto 𝛀, es
decir:
𝐽: 𝛀 → ℝ
𝑋 → 𝐽(𝑋)
Ejemplos de Funcional:
𝑡
1) 𝐽(𝑋 ) = ∫𝑡 1 𝑋(𝑡 )𝑑𝑡
0
2) 𝐽(𝑋 ) = 𝑋̇ (𝑡)|𝑡0+𝑡1
2
Iniciamos planteando el problema del cálculo de variaciones considerando una sola variable y
suponiendo que la condición inicial y la condición final están dadas. “Sea F una función 𝐶 (2) , se
considera el siguiente funcional:
𝑡1
𝐽(𝑋) = ∫ 𝐹[𝑋(𝑡); 𝑋̇(𝑡); 𝑡]𝑑𝑡
𝑡0
Lo que se busca es una función 𝑋 ∗ (𝑡) ∈ 𝛀, que verifique 𝑋 ∗ (𝑡0 ) = 𝑋0 y 𝑋 ∗ (𝑡1 ) = 𝑋1 para la que
𝐽(𝑋) alcance su valor máximo o mínimo”
𝑡1
𝑀á𝑥 𝐽(𝑋) = ∫ 𝐹[𝑋(𝑡); 𝑋̇(𝑡); 𝑡]𝑑𝑡
𝑡0
{𝑋 ∈ 𝛀}
Con: 𝑋(𝑡0 ) = 𝑋0
𝑋(𝑡1 ) = 𝑋1
Ejemplo:
Considere una función de utilidad dada por 𝑈[𝐶(𝑡)], con 𝑈’ > 0 y 𝑈” < 0, donde "𝐶" representa
el consumo del individuo. Además se asume que 𝐾(𝑡0 ) = 𝐾0 y 𝐾(𝑡1 ) = 𝐾1 , siendo "𝐾" el Stock
de Capital. La tasa de interés es "𝑖". El individuo recibe un salario 𝑊(𝑡) determinado
exógenamente. Sus ingresos en "𝑡" vienen dados por 𝑊(𝑡) + 𝑖𝐾(𝑡). El horizonte temporal está
definido en [0, 𝑡1 ]. Finalmente, la tasa de descuento es “𝑟”. Se pide que formule el problema de
cálculo de variaciones.
En primer lugar asumimos que el individuo consumirá en el período dado entre 0 𝑦 𝑡1 . Este
consumo le genera una utilidad en cada momento 𝑡, la que traída a valor presente se puede
representar como:
𝑒 −𝑟𝑡 𝑈[𝐶 (𝑡 )]
Con: 𝐾(0) = 𝐾0
𝐾(𝑡1 ) = 𝐾1
Con: 𝐾(0) = 𝐾0
𝐾(𝑡1 ) = 𝐾1
Una función 𝐾 ∗ (𝑡) es admisible si cumple con las condiciones inicial y final dadas, a saber:
𝐾 ∗ (0) = 𝐾0 y 𝐾 ∗ (𝑡1 ) = 𝐾1
En general, una función 𝑋 ∗ (𝑡) constituye un máximo global si para cualquier otra función
admisible de 𝑋(𝑡)
𝐽(𝑋) ≤ 𝐽(𝑋 ∗ )
Una función admisible 𝑋 ∗ (𝑡), se dice que es un máximo local si existe un 𝛿 > 0 tal que para toda
función admisible 𝑋, perteneciente a 𝐵(𝑋 ∗ , 𝛿) Se verifica que
𝐽(𝑋) ≤ 𝐽(𝑋 ∗ )
𝑑
𝐹𝑥 [𝑋 ∗ (𝑡 ), 𝑋̇ ∗ (𝑡), 𝑡] − 𝐹 [𝑋 ∗ (𝑡), 𝑋̇ ∗ (𝑡 ), 𝑡] = 0
𝑑𝑡 𝑥̇
∀ 𝑡 ∈ [𝑡0 , 𝑡1 ]
Ejemplo 1
2
𝑀á𝑥 𝐽(𝑋) = ∫ (−12𝑡𝑋 − 𝑋̇ 2 )𝑑𝑡
0
Con: 𝑋(0) = 2
𝑋(2) = 12
𝐹𝑋 = −12𝑡
Luego encontramos 𝐹𝑋̇ [𝑋 ∗ , 𝑋̇ ∗ , 𝑡]
𝐹𝑋̇ = −2𝑋̇
𝑑
Finalmente, 𝐹𝑋̇ [𝑋 ∗ , 𝑋̇ ∗ , 𝑡] es igual a:
𝑑𝑡
𝑑𝐹𝑋̇
= −2𝑋̈
𝑑𝑡
2𝑋̈ = 12𝑡. Esto implica que 𝑋̈ = 6𝑡. Nótese que estamos frente a una ecuación diferencial de
segundo orden, que debemos resolver
𝑋 ∗ (𝑡) = 𝑡 3 + 𝑘1 𝑡 + 𝑘2
𝑋(0) = 𝑘2 = 2
𝑋(2) = (2)3 + 2𝑘1 + 2 = 12
𝑘1 = 1
Finalmente:
𝑋 ∗ (𝑡) = 𝑡 3 + 𝑡 + 2
1
𝑀á𝑥 𝐽(𝑥) = ∫ (2 − 3𝑋𝑋̇ 2 )𝑑𝑡
0
Con 𝑋(0) = 0
𝑋(1) = 1
𝐹𝑋 = −3𝑋̇ 2
𝐹𝑋̇ = −6𝑋𝑋̇
𝑑
𝐹̇
𝑑𝑡 𝑋
= −6𝑋𝑋̈ − 6𝑋̇ 2
Esta es una ecuación diferencial de segundo orden no lineal, que no se puede resolver con los
métodos analíticos que conocemos. Sin embargo, existe una posibilidad, ya que como bien se
puede observar, en este ejemplo el tiempo no aparece explícitamente en la función 𝐹. Ello nos
lleva a considerar los siguientes casos especiales de la ecuación de Euler.
Analicemos con más detalle este caso. Suponga la función 𝐹[𝑋(𝑡); 𝑋̇(𝑡), 𝑡]; en este caso 𝐹 es
afectada por el tiempo en 3 vías, tal como se parecía en el siguiente diagrama.
𝑑𝐹
(1) = 𝐹𝑋 𝑋̇ + 𝐹𝑋̇ 𝑋̈
𝑑𝑡
Nótese que el lado derecho es la derivada de 𝑋̇𝐹𝑋̇ con respecto a 𝑡. Por lo tanto, podemos
escribir:
𝑑𝐹 𝑑
= (𝑋̇𝐹𝑋̇ )
𝑑𝑡 𝑑𝑡
Reordenando términos,
𝑑
(𝐹 − 𝑋̇𝐹𝑋̇ ) = 0
𝑑𝑡
Finalmente, integrando con respecto a t, llegamos a la expresión buscada, donde 𝐶 es una constante
𝐹 − 𝑋̇𝐹𝑋̇ = 𝐶
𝐹 − 𝑋̇𝐹𝑋̇ = 0, es igual a
2 − 3𝑋𝑋̇ 2 + 6𝑋𝑋̇ ∗ 𝑋̇ = 𝐶
2 − 3𝑋𝑋̇ 2 + 6𝑋𝑋̇ 2 = 𝐶
2 + 3𝑋𝑋̇ 2 = 𝐶
3𝑋𝑋̇ 2 = 𝐶 − 2
𝐶−2 1
𝑋̇ 2 = ( )( )
3 𝑋
1 𝐶−2
𝑋̇ = 𝐴 (𝑋), con 𝐴 = ( 3 )
2
Obteniendo la raíz:
1
𝑋̇ = 𝐵 ( ), con 𝐵 = √𝐴
√𝑋
Aplicando el método de ecuaciones separables
𝑑𝑋 1
= 𝐵( )
𝑑𝑡 √𝑋
∫ √𝑋 𝑑𝑋 = ∫ 𝐵𝑑𝑡
3
2
𝑋 2 + Є = 𝐵𝑡, siendo Є una constante
3
3 3 3
𝑋2 = 𝐵𝑡 − Є
2 2
3
3 3
𝑋 2 = 𝐹𝑡 + 𝐷, donde las constantes son 𝐹 = 2 𝐵 y 𝐷 = − 2 Є
2
𝑋 ∗ (𝑡) = (𝐹𝑡 + 𝐷)3
Finalmente,
2
𝑋 ∗ (𝑡) = 𝑡 3 , 𝑝𝑎𝑟𝑎 𝑡 Є [0,1]
1
𝐽(𝑥) = ∫ (𝑋 2 + 𝑋̇ 2 + 2𝑋𝑒 𝑡 )𝑑𝑡
0
Con 𝑋(0) = 0
1
𝑋(1) = 2
𝐹𝑋 = 2𝑋 + 2𝑒 𝑡
𝐹𝑋̇ = 2𝑋̇
𝑑
𝐹 ̇ = 2𝑋̈
𝑑𝑡 𝑋
Ecuación de Euler
2𝑋 − 2𝑋̈ + 2𝑒 𝑡 = 0
𝑋 − 𝑋̈ = −𝑒 𝑡
𝑋̈ − 𝑋 = 𝑒 𝑡
1
Solución particular: 𝑋𝑝 = 2 𝑡𝑒 𝑡
La solución general es entonces:
1
𝑋 ∗ (𝑡) = 𝑘1 𝑒 𝑡 + 𝑘2 𝑒 −𝑡 + 𝑡𝑒 𝑡
2
Usando las condiciones iniciales, encontramos los valores de las constantes
𝑋(0) = 𝑘1 + 𝑘2 = 0
1 1
𝑋(1) = 𝑘1 𝑒 + 𝑘2 𝑒 −1 + 𝑒 =
2 2
𝑘2 = −𝑘1
Reemplazando:
1 1
𝑋(1) = 𝑘1 𝑒 − 𝑘1 𝑒 −1 + 2 𝑒 = 2
1 1
𝑘1 (𝑒 − 𝑒 −1 ) = 2 − 2 𝑒
1
(1−𝑒)
2
𝑘1 = (𝑒−𝑒 −1 )
= −0,37
𝑘2 = 0,37
1
𝑋 ∗ (𝑡) = −0,371 𝑒 𝑡 + 0,37𝑒 −𝑡 + 𝑡𝑒 𝑡 , 𝑃𝑎𝑟𝑎 𝑡 ∈ [0,1]
2
Para la demostración, necesitamos dos resultados previos, los mismos que se enuncian a
continuación (el primero de ellos sin prueba).
Proposición 1: “Sea 𝑓 una función continua en el intervalo [𝑡0 , 𝑡1 ] y sea 𝜂 una función
diferenciable definida en [𝑡0 , 𝑡1 ] con 𝜂(𝑡0 ) = 𝜂(𝑡1 ) = 0.
𝑡
Si ∫𝑡 1 𝑓(𝑡)𝜂(𝑡)𝑑𝑡 = 0 entonces 𝑓(𝑡) = 0 para todo 𝑡 en [𝑡0 , 𝑡1 ]
0
𝑣(𝛼) 𝑣(𝛼)
𝑑 𝜕𝑓 (𝛼, 𝑧)
(∫ 𝑓 (𝛼, 𝑧)𝑑𝑧) = ∫ 𝑑𝑧 + 𝑓 [𝛼, 𝑣(𝛼)]𝑣 ′ (𝛼) − 𝑓[𝛼, 𝑢(𝛼)]𝑢′(𝛼)
𝑑𝛼 𝑢(𝛼) 𝑢(𝛼) 𝜕𝛼
𝜕𝑔(𝛼,𝑧)
Demostración: Sea 𝑔(𝛼, 𝑧), una función tal que = 𝑓(𝛼, 𝑧).
𝜕𝑧
Entonces:
𝑣(𝛼)
𝑑 𝑑
(∫ 𝑓(𝛼, 𝑧)𝑑𝑧) = [𝑔(𝛼, 𝑣(𝛼)) − 𝑔(𝛼, 𝑢(𝛼))]
𝑑𝛼 𝑢(𝛼) 𝑑𝛼
𝑣(𝛼) 𝑣(𝛼)
𝑑 𝜕𝑓(𝛼, 𝑧)
(∫ 𝑓(𝛼, 𝑧)𝑑𝑧) = ∫ 𝑑𝑧 + 𝑓(𝛼, 𝑣(𝛼))𝑣 ′ (𝛼) − 𝑓(𝛼, 𝑢(𝛼))𝑢′(𝛼)
𝑑𝛼 𝑢(𝛼) 𝑢(𝛼) 𝜕𝛼
Condición de Euler: Sea 𝑋 ∗ (𝑡) una función que maximiza el problema dado y sea 𝜂(𝑡) una
función diferenciable definida en [𝑡0 , 𝑡1 ] con 𝜂(𝑡0 ) = 𝜂(𝑡1 ) = 0. Para un número real cualquiera
ε, definimos a la siguiente función:
𝑡1
𝐽(𝑋𝜀 ) = ∫ 𝐹[𝑋𝜀 (𝑡); 𝑋̇𝜀 (𝑡); 𝑡]𝑑𝑡
𝑡0
𝑡1
= ∫ 𝐹[𝑋 ∗ (𝑡) + 𝜀𝜂(𝑡); 𝑋̇ ∗ (𝑡) + 𝜀𝜂̇ (𝑡); 𝑡]𝑑𝑡
𝑡0
Pero fijados 𝑋 ∗ y 𝜂 entonces 𝐽(𝑋𝜀 ) depende solo de ε. Por lo que podemos describir, 𝐽(𝑋𝜀 ) = 𝐽(𝜀)
El problema se reduce a un problema de maximización con una variable real. Es claro que 𝐽(𝜀)
alcanza un máximo local si 𝜀 = 0, por lo que la condición necesaria es:
[𝐽′(𝜀)]𝜀=0 = 0
𝑑 𝑡1
𝐽′ (𝜀) = ∫ 𝐹[𝑋 ∗ (𝑡) + 𝜀𝜂(𝑡); 𝑋̇ ∗ (𝑡) + 𝜀𝜂̇ (𝑡); 𝑡]𝑑𝑡
𝑑𝜀 𝑡0
Utilizando Leibniz,
𝑡1
𝑑
𝐽′ (𝜀) = ∫ 𝐹[𝑋 ∗ (𝑡) + 𝜀𝜂(𝑡); 𝑋̇ ∗ (𝑡) + 𝜀𝜂̇ (𝑡); 𝑡]𝑑𝑡
𝑡0 𝑑𝜀
𝑡1
𝐽′ (𝜀) = ∫ (𝜂𝐹𝑋 + 𝜂̇ 𝐹𝑥̇ )𝑑𝑡
𝑡0
Simplificando notación:
𝑡1 𝑡1
= ∫ 𝜂𝐹𝑋 𝑑𝑡 + ∫ 𝜂̇ 𝐹𝑋̇ 𝑑𝑡 = 0
𝑡0 𝑡0
𝑡1 𝑡1
𝑡 𝑑
∫ 𝜂̇ 𝐹𝑋̇ 𝑑𝑡 = 𝜂𝐹𝑋̇ |𝑡10 −∫ 𝜂 𝐹 ̇ 𝑑𝑡
𝑡0 𝑡0 𝑑𝑡 𝑋
𝑡1 𝑡1
𝑑
∫ 𝜂̇ 𝐹𝑋̇ 𝑑𝑡 = − ∫ 𝜂 𝐹 ̇ 𝑑𝑡 ya que [ 𝜂(𝑡0 ) = 𝜂(𝑡1 ) = 0]
𝑡0 𝑡0 𝑑𝑡 𝑋
Finalmente,
𝑡1 𝑡1
𝑑
∫ 𝜂𝐹𝑋 𝑑𝑡 − ∫ 𝜂 𝐹 ̇ 𝑑𝑡 = 0
𝑡0 𝑡0 𝑑𝑡 𝑋
𝑡1
𝑑
∫ 𝜂 [𝐹𝑥 − 𝐹 ̇ ] 𝑑𝑡 = 0
𝑡0 𝑑𝑡 𝑋
𝑑
𝐹𝑥 − 𝐹 ̇ =0
𝑑𝑡 𝑋
𝑑
1) La ecuación de Euler (𝐹𝑋 − 𝑑𝑡 𝐹𝑋̇ ) = 0
2) La condición de Legendre:
[𝐹𝑋̇ |𝑡=𝑡1 ] = 0
𝑡1 𝑡1
𝑡 𝑑
∫ 𝜂̇ 𝐹𝑋̇ 𝑑𝑡 = 𝜂𝐹𝑋̇ |𝑡10 − ∫ 𝜂 𝐹 ̇ 𝑑𝑡
𝑡0 𝑡0 𝑑𝑡 𝑋
𝑡1
𝑑
= 𝜂𝐹𝑋̇ |𝑡1 −∫ 𝜂 𝐹 ̇ 𝑑𝑡
𝑡0 𝑑𝑡 𝑋
Entonces:
𝑡1 𝑡1
′ (𝜀)
𝑑
𝐽 = ∫ 𝜂 𝐹𝑋 𝑑𝑡 − ∫ 𝜂 𝐹 ̇ 𝑑𝑡 + 𝜂𝐹𝑋̇ |𝑡1 = 0
𝑡0 𝑡0 𝑑𝑡 𝑋
𝑡1
𝑑
= ∫ 𝜂 [𝐹𝑋 − 𝐹 ̇ ] 𝑑𝑡 + 𝜂𝐹𝑋̇ |𝑡1 = 0
𝑡0 𝑑𝑡 𝑋
𝐹𝑋̇ |𝑡1 = 0
Ejemplo: Optimizar
2
𝐽(𝑋) = ∫ (𝑡𝑋̇ + 𝑋̇ 2 )𝑑𝑡
0
Con 𝑋(0) = 0
Claramente, en este caso la condición final no está dada. Iniciamos, como siempre, encontrando
la ecuación de Euler
𝐹𝑋 = 0
𝐹𝑋̇ = 𝑡 + 2𝑋̇
𝑑
𝐹𝑋̇ = 1 + 2𝑋̈
𝑑𝑡
La Ecuación de Euler es
−1 − 2𝑋̈ = 0
Reordenando términos
2𝑋̈ = −1
1
𝑋̈ = − 2
1
∫ 𝑋̈ 𝑑𝑡 = ∫ − 𝑑𝑡
2
1
𝑋̇ = − 𝑡 + 𝑘1
2
Integrando nuevamente:
1
∫ 𝑋̇ 𝑑𝑡 = ∫ (− 𝑡 + 𝑘1 ) 𝑑𝑡
2
Es decir que 𝑘2 = 0
Condición de Transversalidad:
1
𝑋 ∗ (𝑡) = − 4 𝑡 2 𝑃𝑎𝑟𝑎 𝑡 ∈ [0,2]
Condición de Legendre:
𝐹𝑥̇ 𝑥̇ = 2 > 0 → (𝑀í𝑛𝑖𝑚𝑜)
Una empresa tiene los derechos de explotación de un recurso natural no renovable para el período
comprendido 𝑡0 y 𝑡1 . Su función de beneficios 𝜋(𝑥, 𝑞, 𝑡), donde:
𝜋(𝑥, −𝑥̇ , 𝑡)
𝑡1
𝜋(𝑥, 𝑞, 𝑡) = ∫ 𝑒 −𝛿𝑡 [𝑝𝑞 − 𝑐(𝑥)]𝑑𝑡
𝑡0
𝑝(𝑡) = 𝑝𝑟𝑒𝑐𝑖𝑜 𝑢𝑛𝑖𝑡𝑎𝑟𝑖𝑜 𝑑𝑒𝑙 𝑟𝑒𝑐𝑢𝑟𝑠𝑜 𝑒𝑛 𝑒𝑙 𝑖𝑛𝑠𝑡𝑎𝑛𝑡𝑒 "t"
𝑐(𝑥) = 𝐶𝑜𝑠𝑡𝑜 𝑑𝑒 𝑒𝑥𝑡𝑟𝑎𝑐𝑐𝑖ó𝑛 𝑐 ′ (𝑥) < 0
𝛿 = 𝑡𝑎𝑠𝑎 𝑑𝑒 𝑑𝑒𝑠𝑐𝑢𝑒𝑛𝑡𝑜
Usando el hecho de que 𝑥̇ = −𝑞 tenemos:
𝑡1
𝑀á𝑥 𝐽(𝑥) = ∫ 𝑒 −𝛿𝑡 [−𝑥̇ 𝑝 − 𝑐(𝑥)]𝑑𝑡
𝑡0
𝑡1
𝑀í𝑛 𝐽(𝑥) = ∫ 𝑒 −𝛿𝑡 [𝑥̇ 𝑝 + 𝑐(𝑥)]𝑑𝑡
𝑡0
𝑥(𝑡0 ) = 𝑥0
𝑥(𝑡1 ) = 0
𝐹𝑥 = 𝑒 −𝛿𝑡 [𝑐 ′ (𝑥)]
𝐹𝑥̇ = 𝑒 −𝛿𝑡 𝑝
𝑑
𝐹 = −𝛿𝑒 −𝛿𝑡 𝑝 + 𝑒 −𝛿𝑡 𝑝̇
𝑑𝑡 𝑥̇
𝑡1
Max 𝐽 = ∫ 𝐹 (𝑋 (𝑡 ), 𝑢(𝑡 ), 𝑡 )𝑑𝑡
{𝑢(𝑡)} 𝑡0
𝑡1
Max 𝐽 = ∫ 𝐹(𝑋(𝑡), 𝑢(𝑡), 𝑡)𝑑𝑡 + 𝑆[ 𝑋(𝑡1 ) ]
{𝑢(𝑡)} 𝑡0
El término 𝑆[𝑋(𝑡1 ) ] hace referencia al estado en el que queda el sistema al final del periodo
considerado.
PRINCIPIO DEL MÁXIMO DE PONTRAYAGIN
Este principio plantea las condiciones necesarias de optimalidad y se basa en una función llamada
función hamiltoniana, o simplemente Hamiltoniano (H). El Hamiltoniano se representa de la
siguiente manera:
𝐻 ( 𝑋, 𝑢, 𝜆, 𝑡) = 𝐹(𝑋, 𝑢, 𝑡) + 𝜆 𝑓(𝑋, 𝑢, 𝑡)
𝜕𝐻
2) 𝑋̇ = 𝑓(𝑋, 𝑢, 𝑡 ) =
𝜕λ
(Ecuación de la variable de estado)
𝜕𝐻
3) λ̇ = −
𝜕X
(Ecuación de la variable de coestado)
𝜕𝑆[𝑋(𝑡1 )]
4) = λ(𝑡1 )
𝜕X
(Condición de Transversalidad)
5) 𝑋(𝑡0 ) = 𝑋0
(Condición Inicial)
EJERCICIOS CON "𝒖" NO ACOTADA
Ejemplo 1:
1
Max 𝐽 = ∫ (𝑋 + 𝑢)𝑑𝑡
{𝑢(𝑡)} 0
S. a: 𝑋̇ = 1 − 𝑢2
Con 𝑋(𝑡0 ) = 1; 𝑋(𝑡1 ) es libre
Nótese que 𝑢(𝑡) no está acotada a ningún rango de valores.
Planteamos el hamiltoniano:
𝐻 = 𝑋 + 𝑢 + 𝜆(1 − 𝑢2 )
𝜕𝐻
λ̇ = − = −1
𝜕X
∫ λ̇ = ∫ −1
𝑑𝜆
∫ = ∫ −1
𝑑𝑡
𝜆 = −𝑡 + 𝑘1
𝜆(𝑡1 ) = 0
𝜕𝐻
= 1 − 2𝜆𝑢 = 0
𝜕𝑢
1
𝑢∗ =
2𝜆∗
Reemplazando 𝜆∗ (𝑡) = 1 − 𝑡 en 𝑢∗ :
1
𝑢∗ =
2(1 − 𝑡)
𝜕 2𝐻
= −2𝜆 < 0
𝜕𝑢2
Lo que nos indica que estamos frente a un máximo, ya que 𝜆 toma únicamente valores entre [0,1]
4) Sustituimos 𝑢∗ en 𝑋̇
𝑋̇ = 1 − 𝑢2
1
𝑋̇ = 1 − 𝑢∗ 2 = 1 −
4(1−𝑡)2
1
∫ 𝑑𝑋 = ∫ 1 − 𝑑𝑡
4(1 − 𝑡)2
1
𝑋 ∗ (𝑡) = 𝑡 − + 𝑘2
4(1 − 𝑡)
1 5
𝑋(0) = 0 − 4 + 𝑘2 = 1, lo que implica que 𝑘2 = 4
1 5
𝑋 ∗ (𝑡) = 𝑡 − 4(1−𝑡) + 4 Para 𝑡 ∈ [0,1]
Nota: Nótese que en las funciones 𝜆∗ , 𝑢∗ 𝑦 𝑋 ∗ no aparece ninguna otra variable más que “t”.
Ejemplo 2:
5
Max 𝐽 = ∫ (𝑢𝑋 − 𝑢2 − 𝑋2 )𝑑𝑡
{𝑢(𝑡)} 1
S. a: 𝑋̇ = 𝑋 + 𝑢
Con 𝑋(1) = 2; 𝑋(5) es libre
Planteamos el Hamiltoniano
𝐻 = (𝑢𝑋 − 𝑢2 − 𝑋 2 ) + 𝜆(𝑋 + 𝑢)
𝜕𝐻
1) 𝜆̇ = − = −(𝑢 − 2𝑋 + 𝜆)
𝜕𝑋
𝜆̇ = 2𝑋 − 𝑢 − 𝜆
2) Max 𝐻 = 𝑢𝑋 − 𝑢2 − 𝑋2 + 𝜆(𝑋 + 𝑢)
{𝑢(𝑡)}
𝜕𝐻
= 𝑋 − 2𝑢 + 𝜆 = 0
𝜕𝑢
𝑋+𝜆
Con lo que 𝑢 ∗ =
2
𝜕2 𝐻
De = −2 < 0 deducimos que estamos frente a un máximo
𝜕𝑢2
𝑋̇ = 𝑋 + 𝑢
Reemplazando 𝑢∗
𝑋+𝜆 3 1
𝑋̇ = 𝑋 + ( )= 𝑋+ 𝜆
2 2 2
Con 𝑋(1) = 2
3 1
𝑋̇ = 𝑋+ 𝜆
2 2
3 3
𝜆̇ = 𝑋 − 𝜆
2 2
Escribiendo el sistema matricialmente
̇ 3/2 1/2 𝑋
(𝑋) = ( )( )
̇𝜆 3/2 −3/2 𝜆
Para resolver el sistema encontramos los valores propios, siendo éstos 𝑟1 = √3 y 𝑟2 = −√3.
Obtenemos los vectores propios:
Con 𝑟1 = √3 tenemos:
3/2 1/2 𝑒1 0
[( ) − (√3 0 )] (𝑒 ) = ( )
3/2 −3/2 0 √3 2 0
−0,23205 0,5 𝑒1 0
( ) (𝑒 ) = ( )
1,5 −3,23205 2 0
−0,23205𝑒1 + 0,5𝑒2 = 0
𝑒2 = 0,4641𝑒1
1
𝑣1 = ( )
0,4641
1
𝑣2 = ( )
−6,4641
𝑘1 = 0,00000473
𝑘2 = 11,304
∗ (𝑡)
𝑋 ∗ + 𝜆∗
𝑢 = = 0.00000346𝑒 √3𝑡 − 30.88𝑒 −√3𝑡 𝑃𝑎𝑟𝑎 𝑡 𝜖 [1,5]
2
Ejemplo 3:
1
Min 𝐽 = ∫ 𝑢2 𝑑𝑡 + 𝑋2 (1)
{𝑢(𝑡)} 0
𝑆. 𝑎: 𝑋̇ = 𝑋 + 𝑢
Con 𝑋(0) = 1; 𝑋(1) 𝑒𝑠 𝑙𝑖𝑏𝑟𝑒
Planteamos el Hamiltoniano
𝐻 = 𝑢2 + 𝜆(𝑋 + 𝑢)
𝜕𝐻
1) 𝜆̇ = − = −𝜆
𝜕𝑋
Cuya solución es
𝜕𝐻
= 2𝑢 + 𝜆 = 0
𝜕𝑢
1
𝑢∗ = − 𝜆∗
2
Reemplazando 𝜆∗
1
𝑢∗ = − 2 (𝑘1 𝑒 −𝑡 )
𝑘1 −𝑡
𝑢∗ = − 𝑒
2
𝜕2 𝐻
La segunda derivada = 2 > 0 nos indica que sí estamos frente a un mínimo
𝜕𝑢2
3) Ecuación de estado
𝑋̇ = 𝑋 + 𝑢
Reemplazamos 𝑢∗
𝑘
𝑋̇ = 𝑋 − 21 𝑒 −𝑡 , con 𝑋(0) = 1
𝑋ℎ = 𝑘2 𝑒 𝑡
Solución Particular:
𝑋𝑝 = 𝐴𝑒 −𝑡
𝑋̇𝑝 = −𝐴𝑒 −𝑡
Reemplazando:
𝑘1
−𝐴𝑒 −𝑡 = 𝐴𝑒 −𝑡 − 𝑒 −𝑡
2
𝑘1
−2𝐴𝑒 −𝑡 = − 𝑒 −𝑡
2
𝑘1
𝐴= 4
𝑘1
𝑋𝑝 = 𝑒 −𝑡
4
Finalmente, tenemos
𝑘1
𝑋 ∗ (𝑡 ) = 𝑘 2 𝑒 𝑡 + 𝑒 −𝑡
4
Con 𝑋(0) = 1
Reemplazando en 𝑋 ∗
𝑘1 𝑡 𝑘1 −𝑡
𝑋 ∗ (𝑡) = (1 − )𝑒 + 𝑒
4 4
2𝑋 ∗ (1) = λ∗ (1)
𝑘1 𝑘1
2 (1 − ) 𝑒 + 𝑒 −1 = 𝑘1 𝑒 −1
4 2
𝑘1 𝑘1 −1
2𝑒 − 𝑒 + 𝑒 − 𝑘1 𝑒 −1 = 0
2 2
𝑘1 𝑘1 −1
2𝑒 − 𝑒 − 𝑒 = 0
2 2
1 1 −1
−𝑘1 ( 𝑒 + 𝑒 ) = −2𝑒
2 2
2𝑒
𝑘1 =
1 1
(2 𝑒 + 2 𝑒 −1 )
2𝑒
𝑘1 =
1 −1 )
(𝑒
2 +𝑒
4𝑒
𝑘1 =
(𝑒 + 𝑒 −1 )
4𝑒 2
𝑘1 = 2
𝑒 +1
𝑒2
𝑘2 = 1 −
𝑒2 + 1
1
𝑘2 =
𝑒2 + 1
1 𝑒2
𝑋 ∗ (𝑡) = ( 2 ) 𝑒𝑡 + ( 2 ) 𝑒 −𝑡 𝑝𝑎𝑟𝑎 𝑡 ∈ [0,1]
𝑒 +1 𝑒 +1
∗ (𝑡)
4𝑒 2
𝜆 =( 2 ) 𝑒 −𝑡 𝑝𝑎𝑟𝑎 𝑡 ∈ [0,1]
𝑒 +1
2𝑒 2
𝑢∗ (𝑡) = − ( 2 ) 𝑒 −𝑡 𝑝𝑎𝑟𝑎 𝑡 ∈ [0,1]
𝑒 +1
1) Control Bang-Bang: En este tipo de problemas 𝑢(𝑡) está acotada y 𝐻 es una función lineal
de 𝑢(𝑡). Esto garantiza que el valor óptimo buscado para 𝐻 sea una solución de frontera.
Aclaremos más este aspecto con un ejemplo.
2
𝑀á𝑥 𝐽 = ∫ (2𝑋 − 3𝑢)𝑑𝑡
{𝑢(𝑡)} 0
𝑆. 𝑎: 𝑋̇ = 𝑋 + 𝑢
Con 𝑋(0) = 4; 𝑋(2) 𝑒𝑠 𝑙𝑖𝑏𝑟𝑒
𝑢(𝑡) ∈ 𝛀 [0,2]
Nótese que como 𝑢(𝑡) está acotada ahora es posible tener soluciones de frontera. El hamiltoniano
en este caso es:
𝐻 = (2𝑋 − 3𝑢) + 𝜆(𝑋 + 𝑢)
𝐻 = (2 + 𝜆)𝑋 + 𝑢(𝜆 − 3)
Vemos que 𝐻 es una función lineal de 𝑢. La siguiente gráfica nos muestra los valores de 𝐻 en
términos de 𝑢.
2 𝜆>3
𝑢(𝑡)∗ = { } 𝑠𝑖 { }
0 𝜆<3
Con esta información procedemos a plantear las condiciones del máximo. Primero encontramos
la ecuación de movimiento de la variable de coestado
𝜕𝐻
𝜆̇ = − = −2 − 𝜆
𝜕𝑥
Integrando, tenemos:
𝜆(2) = 𝑘1 𝑒 −2 − 2 = 0
𝑘1 = 2𝑒 2
Por lo que:
𝜆∗ (𝑡) = 2𝑒 2−𝑡 − 2
Para hallar un valor de “𝑡” tal que 𝜆 = 3, tenemos que 2𝑒 2−𝑡 − 2 = 3. Despejando “𝑡” se tiene
que 𝑡 = 1,084. Cuando
Gráficamente:
Entonces:
𝑢∗ (𝑡) = 2, si 0 ≤ 𝑡 ≤ 1,084
𝑢∗ (𝑡) = 0, si 1,084 ≤ 𝑡 ≤ 2
𝑋̇ = 𝑋 + 𝑢
Resolviendo tenemos:
𝑋 ∗ (𝑡) = 𝑘2 𝑒 𝑡 − 𝑢 𝐶𝑜𝑛 𝑋(0) = 4
Encontramos 𝑘2 :
𝑋 ∗ (0) = 𝑘2 − 𝑢 = 4
𝑘2 = 4 + 𝑢
Reemplazando tenemos:
𝑋 ∗ (𝑡) = (4 + 𝑢∗ )𝑒 𝑡 − 𝑢∗
Finalmente
𝑋 ∗ (𝑡) = 6𝑒 𝑡 − 2, si 0 ≤ 𝑡 ≤ 1,084
𝑋 ∗ (𝑡) = 4𝑒 𝑡 , si 1,084 ≤ 𝑡 ≤ 2
Ejercicio 2:
1
𝑀á𝑥 𝐽 = ∫ (−𝑋)𝑑𝑡
{𝑢(𝑡)} 0
𝑆. 𝑎: 𝑋̇ = 𝑢
Con 𝑋(0) = 1; 𝑋(1) 𝑒𝑠 𝑙𝑖𝑏𝑟𝑒
𝑢(𝑡) Є 𝛀 [−1,1]
Planteamos el Hamiltoniano:
𝐻 = −𝑋 + 𝜆𝑢
𝜕𝐻
𝜆̇ = − =1
𝜕𝑋
Integrando, tenemos:
𝜆∗ (𝑡) = 𝑘1 + 𝑡
𝜆(1) = 𝑘1 + 1 = 0
𝜆∗ (𝑡) = 𝑡 − 1 𝑝𝑎𝑟𝑎 0 ≤ 𝑡 ≤ 1
Esto limita los casos a la posibilidad única de que 𝜆 < 0, ya que “𝑡” solo puede tomar valores
entre 0 𝑦 1. Por lo tanto:
𝑢∗ (𝑡) = −1 𝑝𝑎𝑟𝑎 0 ≤ 𝑡 ≤ 1
Gráficamente:
𝑋̇ = 𝑢 𝑐𝑜𝑛 𝑋(0) = 1
𝑋 ∗ (0) = 𝑘2 = 1
𝑋 ∗ (𝑡) = 𝑢𝑡 + 1 𝑐𝑜𝑛 𝑢∗ = −1
2
𝑀á𝑥 𝐽 = ∫ (2𝑥 − 3𝑢 − 𝑢2 )𝑑𝑡
{𝑢(𝑡)} 0
𝑆. 𝑎: 𝑥̇ = 𝑥 + 𝑢
Con 𝑥(0) = 5; 𝑥(2) 𝑒𝑠 𝑙𝑖𝑏𝑟𝑒
𝑢(𝑡) Є 𝛀 [0,2]
El hamiltoniano en este caso es:
𝐻 = (2𝑥 − 3𝑢 − 𝑢2 ) + 𝜆(𝑥 + 𝑢)
Por lo tanto:
𝜆∗ (𝑡) = 2𝑒 2−𝑡 − 2 𝑝𝑎𝑟𝑎 𝑡 ∈ [0,2]
𝑆. 𝑎: 𝑢 ≥ 0
2−𝑢 ≥0
𝑀á𝑥 𝐹 = 𝜆𝑢 − 3𝑢 − 𝑢2
{𝑢(𝑡)}
𝑆. 𝑎: 𝑢 ≥ 0
2−𝑢 ≥0
Caso 𝒖 𝛅𝟏 𝛅𝟐
1 0 0 0
2 0 0 +
3 0 + 0
4 0 + +
5 + 0 0
6 + 0 +
7 + + 0
8 + + +
CASO I: 𝒖 = 𝛅𝟏 = 𝛅𝟐 = 𝟎
Vemos que:
2𝑒 2−𝑡 − 5 ≤ 0
Caso V: 𝑢 > 0 ; δ1 = δ2 = 0
ℒδ2 = 𝑢 ≥ 0; ℒδ2 δ2 = 0
ℒδ1 = 2 − 𝑢 ≥ 0 ; ℒδ1 δ1 = 0
ℒ𝑢 = −2𝑢 + (λ − 3) ≤ 0; ℒ𝑢 𝑢 = 0
(λ∗ − 3)
𝑢∗ (𝑡) =
2
La segunda condición implica que 2 − 𝑢 ≥ 0. Conjuntamente con el hecho de que 𝑢 > 0, tenemos
que 0 < 𝑢 ≤ 2. Reemplazando 0 < 𝑢 ≤ 2 en 𝑢∗ (𝑡)
(λ∗ − 3)
0< ≤2
2
0 < 2𝑒 2−𝑡 − 5 ≤ 4
5 < 2𝑒 2−𝑡 ≤ 9
2,5 < 𝑒 2−𝑡 ≤ 4,5
ln(2,5) < 2 − 𝑡 ≤ ln(4,5)
−1,084 < −𝑡 ≤ −0,4959
1,084 > 𝑡 ≥ 0,4959
De este resultado se deduce que:
−δ1 − 2𝑢 + (λ − 3) = 0
δ1 = −2𝑢∗ + (𝜆∗ − 3) ≥ 0 Recordando que δ1 > 0
2, 0 ≤ 𝑡 < 0,496
∗ (𝑡) 2−𝑡
𝑢 = {𝑒 − 2,5, 0,496 ≤ 𝑡 < 1.08
0, 1,08 ≤ 𝑡 ≤ 2
Para resolver este caso, requerimos de la condición inicial 𝑋(𝑡0 ) = 𝑋0 , la condición final 𝑋(𝑡1 ) =
𝑋1.
𝑆. 𝑎: 𝑋̇ = 𝑢
Con 𝑋(0) = 4; 𝑋(𝑡1 ) = 5
El Hamiltoniano es
𝐻 = 𝑡 2 + 𝑢2 + 𝜆𝑢
𝑀𝑖𝑛 𝐻 = 𝑡2 + 𝑢2 + 𝜆𝑢
{𝑢(𝑡)}
𝜕𝐻
= 2𝑢 + 𝜆 = 0
𝜕𝑢
∗ (𝑡)
𝜆∗
𝑢 =−
2
𝑘1
𝑢∗ (𝑡) = − para 𝑡 ∈ [0, 𝑡1 ]
2
𝜕 2𝐻
=2>0
𝜕𝑢2
𝑘1
𝑋 ∗ (𝑡) = − 𝑡 + 𝑘2 , con 𝑋(0) = 4 y 𝑋(𝑡1 ) = 5
2
𝑘1
𝑋 ∗ (𝑡1 ) = − 𝑡 +4=5
2 1
2
Por lo que 𝑘1 = − 𝑡
1
𝑡
𝑋 ∗ (𝑡) = +4 para 𝑡 ∈ [0, 𝑡1 ]
𝑡1
[𝐻]𝑡=𝑡1 = 0
[𝐻 ∗ ]𝑡=𝑡1 = 𝑡1 2 + 𝑢2 + 𝜆𝑢 = 0
1 2
[𝐻 ∗ ]𝑡=𝑡1 = [𝑡12 + 2 − 2] = 0
𝑡1 𝑡1
1
𝑡12 − =0
𝑡12
En resumen,
𝑋 ∗ (𝑡) = 𝑡 + 4
𝑢∗ (𝑡) = 1
𝜆∗ (𝑡) = −2
Para 𝑡 ∈ [0,1]
𝜕𝐻 𝜕𝐺 𝜕𝑓
• 𝜆̇ = − 𝜕𝑋 = − 𝜕𝑋 𝑒 −𝛿𝑡 − 𝜆 𝜕𝑋
• 𝐶𝑜𝑛 𝜆(𝑇) = 0
• 𝑀á𝑥 𝐻
{𝑢(𝑡)}
Por otro lado, definimos a la variable 𝑚(𝑡) = 𝜆(𝑡)𝑒 𝛿𝑡 . De aquí es fácil encontrar que:
ℋ = 𝐺(𝑋, 𝑢, 𝑡) + 𝑚𝑓(𝑋, 𝑢, 𝑡)
𝜕𝐺 −𝛿𝑡 𝜕𝑓
𝜆̇ = − 𝑒 −𝜆
𝜕𝑋 𝜕𝑋
Reemplazando 𝜆 y 𝜆̇:
𝜕𝐺 −𝛿𝑡 𝜕𝑓
−𝛿𝑒 −𝛿𝑡 𝑚 + 𝑚̇ 𝑒 −𝛿𝑡 = − 𝑒 − 𝑚𝑒 −𝛿𝑡
𝜕𝑋 𝜕𝑋
𝜕𝐺 𝜕𝑓
𝑚̇ = − −𝑚 + 𝛿𝑚
𝜕𝑋 𝜕𝑋
𝜕ℋ
−
𝜕𝑋
En resumen, las condiciones de optimalidad expresadas para el hamiltoniano valor presente son:
𝜕ℋ
𝑚̇ = − + 𝛿𝑚
𝜕𝑋
Condición de transversalidad.
𝜆(𝑇) = 0
𝑚(𝑇)𝑒 −𝛿𝑡 = 0 pero como 𝑒 −𝛿𝑡 > 0
𝑚(𝑇) = 0
Maximización de H
𝑀á𝑥 ℋ
{𝑢(𝑡)}
𝑋̇ = 𝑓(𝑋, 𝑢, 𝑡)
[ℋ ∗ ]𝑡=𝑇 = 0
PROBLEMA CON HORIZONTE TEMPORAL INFINITO
Considere el siguiente problema de control, con instante final infinito.
∞
𝑀á𝑥 𝐽 = ∫ 𝐹(𝑋, 𝑢, 𝑡) 𝑑𝑡
{𝑢(𝑡)} 0
𝑆. 𝑎: 𝑋̇ = 𝑓(𝑋, 𝑢, 𝑡) con 𝑋(0) = 𝑋0
𝑢(𝑡) ∈ 𝛀
Este tipo de problemas aparecen con mucha frecuencia en aplicaciones económicas. Para su
resolución hay que tomar en cuenta dos puntualizaciones:
2.1) Si se da una condición final para 𝑋. En este caso el problema de control se puede
expresar como:
∞
𝑀á𝑥 𝐽 = ∫ 𝐹(𝑥, 𝑢, 𝑡) 𝑑𝑡
{𝑢(𝑡)} 0
𝑆. 𝑎: 𝑋̇ = 𝑓(𝑋, 𝑢, 𝑡)
Con 𝑋(0) = 𝑋0 y lim 𝑋(𝑡) = 𝑋1
𝑡→∞
lim [𝐻∗ ]𝑡 = 0
𝑡→∞