Programación No Lineal

2
Postgrado de Investigación de Operaciones

Prof. Gonzalo Müller

gmullerb@mail.com
Facultad de Ingeniería
Universidad Central de Venezuela

NC&GM - 1
Clase Anterior

Pautas de curso.

El uso de modelos en IO:

Formulación, Deducción e interpretación

Elementos básicos del Sistema Real:

Atributos, Objetivos y Restricciones.

Modelos de Programación Matemática:

Variable de decisión, Espacio de opciones, Restricción,
Región factible del espacio de opciones y Función objetivo.

Formato General de un Problema PM No Lineal.

Optimización.

NC&GM - 2
Clase Anterior

Resolución de un problema de Optimización:
1. Formular el modelo matemático del problema real:
1.1. Formular un boceto en castellano del problema.
1.2. Tabular la data numérica del problema.
1.3. Definir las variables de decisión.
1.4. Formular la función objetivo.
1.5. Formular las restricciones.
2. Seleccionar y aplicar la técnica adecuada para
resolver el problema matemático.

NC&GM - 3
Programación Matemática

Programación matemática: Es una rama de la teoría de
optimización en la cual una función objetivo f:
f: D → E1
D ⊂ En
D: Dominio de f
Es minimizada o maximizada posiblemente sujeta a un
número finito de restricciones (ecuaciones o
inecuaciones)

También se le conoce como Optimización
Matemática
NC&GM - 4
Problema de optimización

Región Factible: La región factible S es el conjunto de
todos los puntos x tales que:

x ∈ D ^ Satisfacen Todas las restricciones.

Se dice que x es un punto factible si x ∈ S.

NC&GM - 5
Problema de optimización

Problema de optimización:
Dado un conjunto S y una función f:
f: En → E1
El Problema de Optimización O(f, S) consiste en
encontrar x* ∈ S tal que:
f(x*) ≤ f(y)
∀y∈S
donde:
S : Dominio de las soluciones factibles.
f: función de costo.
NC&GM - 6
Vecindad

Vecindad: Una vecindad N constituye el conjunto de
puntos cercanos a algún punto específico x.
N(x): Vecindad alrededor de x

Nδ(x0) es una vecindad de x0 de radio δ, formada por

el conjunto de todos los puntos de Rn cuya distancia a
x0 es menor que δ:

{ }
N δ ( x 0 ) = x, x 0 ∈ R n | x − x 0 < δ , δ > 0

NC&GM - 7
Vecindad

La geometría de la vecindad depende de la norma
utilizada, es decir, de la métrica elegida para medir
la distancia. Los utilizados más comúnmente son:

Vecindad esférica, utiliza la métrica euclidiana.

Vecindad rómbica.

Vecindad cúbica.
Sin embargo, puede utilizarse cualquier otra métrica
de acuerdo a la necesidad.

NC&GM - 8
Vecindad

Vecindad esférica:

 0 k =n 
N δ ( x ) = x , x ∈ R n |
0


∑ (x -x )
k =1
k
0 2
k < δ , δ > 0

x2

δ
x0
2 R2
x0

x01 x1

NC&GM - 9
Vecindad

Vecindad rómbica:

 k =n

Nδ ( x ) = x , x ∈ R |∑ x k -x k < δ , δ > 0
0 0 n 0

 k =1 
x2

x02 δ R2
x0

x01 x1

NC&GM - 10
Vecindad

Vecindad cúbica:

 0 
Nδ ( x ) = x , x ∈ R | max {| x k -x k |} < δ , δ > 0
0 n 0

 k =1,.., n 
x2

x02 δ R2
x0

x01 x1

NC&GM - 11
Extremos

Mínimo Local:
Local Dado un problema de optimización
O(f, S) se dice que x* es un mínimo local si:

f(x*) ≤ f(y) ∀ y ∈ N(x) ∩ S

R1
δ
x*
NC&GM - 12
Extremos

Máximo Local:
Local Dado un problema de optimización
O(f, S) se dice que x* es un máximo local si:

f(x*) ≥ f(y) ∀ y ∈ N(x) ∩ S

R1
δ
x*
NC&GM - 13
Extremos

Mínimo Local Estricto:
Estricto Dado un problema de
optimización O(f, S) se dice que x* es un mínimo local
estricto si:
f(x*) < f(y) ∀ y ∈ N(x) ∩ S
y ≠ x*

Mínimo Local
Mínimo Local Estricto

δ δ
x* 1 x* 2
NC&GM - 14
Extremos

Máximo Local Estricto:
Estricto Dado un problema de
optimización O(f, S) se dice que x* es un máximo local
estricto si:
f(x*) > f(y) ∀ y ∈ N(x) ∩ S
y ≠ x*
Máximo Local Estricto
Máximo Local

δ δ
x* 1 x* 2
NC&GM - 15
Extremos

Mínimo Global:
Global Dado un problema de optimización
O(f, S) se dice que x* es un mínimo global si:
f(x*) ≤ f(y) ∀y∈S

x*

Todo mínimo global es un mínimo local

NC&GM - 16
Extremos

Máximo Global:
Global Dado un problema de optimización
O(f, S) se dice que x* es un máximo global si:
f(x*) ≥ f(y) ∀y∈S

x*

Todo máximo global es un máximo local

NC&GM - 17
Extremos

Mínimo Global Estricto:
Estricto Dado un problema de
optimización O(f, S) se dice que x* es un mínimo
global estricto si:
f(x*) < f(y) ∀y∈S
y ≠ x*

x* x*
Mínimo Global Estricto Mínimo Global

NC&GM - 18
Extremos

Máximo Global Estricto:
Estricto Dado un problema de
optimización O(f, S) se dice que x* es un máximo
global estricto si:
f(x*) > f(y) ∀y∈S
y ≠ x*
Máximo Global Estricto Máximo Global

x* x*

NC&GM - 19
Extremos

Extremo
Extremo: Un extremo es cualquier máximo o un
mínimo de un problema de optimización O(f, S).

No toda función tiene un extremo.

Para algunos problemas es difícil encontrar un óptimo

global por los que un óptimo local es suficiente

NC&GM - 20
Conceptos fundamentales

Punto Interior
Sea Q ⊂ En y sea un punto x∈En, se dice que x es un
punto interior a Q si existe un entorno Nδ(x) tal que
Nδ(x) ⊂ Q.
Nδ(x1)

Q x1

x2 x1 es un punto interior a Q
x2 no es un punto interior a Q
Al conjunto de los puntos interiores de Q se le denota
int(Q) o también int Q.
NC&GM - 21
Conceptos fundamentales

Funciones Diferenciables

Una función es diferenciable continua en x, x ∈
int(D), si las 1º derivadas parciales son continuas en
x.

Una función es doblemente diferenciable en x, x ∈
int(D), si sus 2º derivadas parciales existen en x.

Una función es doblemente diferenciable continua
en x, x ∈ int(D), si sus 2º derivadas parciales son
continuas en x.

NC&GM - 22
Conceptos fundamentales

Gradiente ∇f(x): El vector gradiente de f en x es:
T
 ∂f(x) ∂f(x) 
∇f(x) =  L 
 ∂x1 ∂x n 

Hessiano ∇2f(x): Matriz hessiana de una función f
doblemente diferenciable en x es:
 ∂ 2f(x) ∂ 2f(x) 
 . . . 
 ∂x1∂x1 ∂x1∂x n 
 . . . 
2  
∇ f(x) =  . . . 
 . . . 
 ∂ 2f(x) ∂ 2f(x) 
 . . .
 ∂x ∂x ∂x n ∂x n 
 n 1
NC&GM - 23
Conceptos fundamentales

Una matriz M simétrica es definida positiva si:

zT· M· z > 0 ∀ z ≠ 0, z∈En

Una matriz M simétrica es definida negativa si:

zT· M· z < 0 ∀ z ≠ 0, z∈En

NC&GM - 24
Conceptos fundamentales

Una matriz M simétrica es semidefinida positiva si:
zT· M· z ≥ 0
∀ z∈En ∴ ∃ z ≠ 0 | zT· M· z = 0

Una matriz M simétrica es semidefinida negativa si:

zT· M· z ≤ 0
∀ z∈En ∴ ∃ z ≠ 0 | zT· M· z = 0

NC&GM - 25
Optimización Clásica

Optimización Clásica
Métodos analíticos que han sido estudiados durante
siglos, destinados a resolver:

Problemas irrestrictos:
O(f)

Problemas con restricciones de igualdad:
O(f, S) | S : hj = 0

NC&GM - 26
Teoremas Clásicos

Condición necesaria para un extremo de O(f):
Sea x*, x*∈ int(D), un extremo de f

Si f es diferenciable en x*, entonces:

∇f(x*) = 0

NC&GM - 27
Teoremas Clásicos
Ejemplo 2.1: Determinar cual de los siguientes puntos
pueden ser extremo de f(x) = x1x2:

x1T= (1 1)
x2T= (0 1)
x3T= (0 0)

NC&GM - 28
Teoremas Clásicos
Dado que f es diferenciable:
∇f(x) = (x2 x1)T
Entonces,

∇f(x1) = (1 1)T ≠ 0 →
∇ No puede ser extremo
∇f(x2) = (1 0)T ≠ 0 → No puede ser extremo
∇f(x3) = (0 0)T = 0 → Puede ser un extremo

NC&GM - 29
Teoremas Clásicos

Condición suficiente para un extremo de O(f):
Sea x*, x* ∈ int(D), y f es doblemente diferenciable
continua en x:
Si
∇f(x*) = 0 ^ zT∇2f(x*)z > 0
∀ z ≠ 0, z∈En
Entonces,
x es un mínimo local estricto

NC&GM - 30
Teoremas Clásicos

Condición suficiente para un extremo de O(f):
Sea x*, x* ∈ int(D), y f es doblemente diferenciable
continua en x:
Es definida positiva
Si
∇f(x*) = 0 ^ zT∇2f(x*)z > 0
∀ z ≠ 0, z∈En
Entonces,
x es un mínimo local estricto

NC&GM - 31
Teoremas Clásicos

Sea x*, x* ∈ int(D), y f es doblemente diferenciable

continua en x:
Si
∇f(x*) = 0 ^ zT∇2f(x*)z < 0
∀ z ≠ 0, z∈En
Entonces,
x es un máximo local estricto

NC&GM - 32
Teoremas Clásicos

Sea x*, x* ∈ int(D), y f es doblemente diferenciable

continua en x:
Es definida negativa
Si
∇f(x*) = 0 ^ zT∇2f(x*)z < 0
∀ z ≠ 0, z∈En
Entonces,
x es un máximo local estricto

NC&GM - 33
Teoremas Clásicos
Ejemplo 2.2: Determinar si x* = (0) es un mínimo o
máximo local estricto de f(x) = x2.

Dado que f es doblemente diferenciable:

∇f(x) = 2x

∇2f(x) = 2

NC&GM - 34
Teoremas Clásicos
Entonces,
∇f(x*) = 2(0) = 0
Dado z = z:

zT∇2f(x*)z = z· 2· z

zT∇2f(x*)z = 2 · z2

2 · z2 > 0 ∀ z, z ≠ 0 → Mínimo Local Estricto

NC&GM - 35
Teoremas Clásicos
Ejemplo 2.3: Determinar si x*T= (0 0) es un mínimo
o máximo local estricto de f(x) = x1x2.

Dado que f es doblemente diferenciable:

∇f(x) = (x2 x1)T

 0 1
∇ f(x) = 
2

1 0

NC&GM - 36
Teoremas Clásicos
Entonces,
∇f(x*) = (0 0)T = 0
Dado z = (z1 z2)T:

 0 1  z1 
z ∇ f(x )z = (z1
T 2 *
z 2 )  
 1 0  z 2 
 z1 
z ∇ f(x )z = (z 2
T 2 *
z1 )  = z1 ⋅ z 2 + z1 ⋅ z 2
 z2 
zT∇2f(x*)z = 2· z1· z2 → No se puede concluir

NC&GM - 37
Teoremas Clásicos
Ejemplo 2.4: Determinar si x* = (0) es un mínimo o
máximo local estricto de f(x) = – x4.

Dado que f es doblemente diferenciable:

∇f(x*) = – 4x3

∇2f(x*) = – 12x2

NC&GM - 38
Teoremas Clásicos
Entonces,
∇f(x*) = – 4(0)3 = 0
Dado z = z:

zT∇2f(x*)z = z· – 12x*2· z

zT∇2f(x*)z = 0 → No se puede concluir

NC&GM - 39
Teoremas Clásicos
Existen extremos para lo que la condición suficiente no se
satisface en estos casos es posible estudiar la vecindad del
punto en estudio.
Condición suficiente y necesaria para un extremo de O(f):
Sea x*, x* ∈ int(D), y f es doblemente diferenciable continua
en x:
Si
∇f(x*) = 0 ^ zT∇2f(y)z > 0
∀ y ∈ N(x*)
∀ z ≠ 0, z∈En
Entonces,
x es un mínimo local estricto

NC&GM - 40
Teoremas Clásicos
Ejemplo 2.5: Determinar si x* = (0) es un mínimo o
máximo local estricto de f(x) = – x4.

Dado que f es doblemente diferenciable:

∇f(x) = – 4x3
∇2f(x) = – 12x2
∇f(x*) = – 4(0)3 = 0
zT∇2f(x*)z = 0 → No se puede concluir

NC&GM - 41
Teoremas Clásicos
Dado y = x* + δ:
zT∇2f(y)z = – z· 12(x* + δ)2· z
zT∇2f(y)z = – z· 12(x*2 +2· x*· δ + δ2)· z
x* = (0)
zT∇2f(y)z = – 12· δ2· z2
– 12· δ2· z2 < 0 ∀ z ≠ 0 → Máximo Local
Estricto

NC&GM - 42
Optimización clásica

Optimización de problemas con restricciones de
igualdad
min f(x)
sujeto a:
hj(x) = 0
donde:
hj(x): D → E1 j = 1, …, p

NC&GM - 43
Optimización clásica

La idea básica es transformar un problema con
restricciones en un problema sin restricciones:

1º Método: Expresar p variables en términos de la
restantes en término de las restantes n – p variables.

Esto puede ser una tarea difícil y en ocasiones
imposible (las hj(x) son funciones no lineales).

2º Método: Método de Lagrange.

NC&GM - 44
Método de Lagrange

Método de Lagrange
Dado x* un extremo local de f:
Si
f y hj son funciones diferenciables continuas en una
vecindad N(x*)
y
Se satisface hj(y) = 0 j = 1, …, p y ∈ N(x*)
y
La matriz jacobiana de hj(x*) tiene rango p
NC&GM - 45
Método de Lagrange
 ∂h 1(x) ∂h p(x) 
 . . . 
 ∂x1 ∂x1 
 . . . 
 
J( h ) =  . . . 
 . . . 
 ∂h (x) ∂h ( x) 
 1 . . .
p

 ∂x p ∂x 
 p 
Entonces, ∇ ) es una combinación
∇f(x * lineal de los
gradientes de hj en x* si existen p números reales λj
tales que:
p
∇f(x * ) = ∑ λ j∇h j(x * )
j=1

NC&GM - 46
Método de Lagrange
El método de Lagrange consiste en transformar un
problema de optimización con restricción de igualdad
en un problema de encontrar un punto estacionario de
L(x, λ):
∇L(x, λ) = 0
donde: p
L(x , λ) = f ( x ) − ∑ λ jh j(x)
j =1

L(x, λ): se conoce como el Lagrangeano

λj: se conoce como el Multiplicadores de Lagrange

NC&GM - 47
Método de Lagrange

Se determinan simultáneamente los llamados
multiplicadores de Lagrange λ y la solución óptima
del problema x.

λj indica cuanto varía el objetivo si se relaja
infinitesimalmente la restricción j.

NC&GM - 48
Método de Lagrange

Condición necesaria y suficiente para un extremo de
un problema de optimización O(f,S) con restricciones
de igualdad:
1. Si x* es un mínimo local estricto
Entonces,
∇L(x*, λ*) = 0 ^ zT∇x2L(x*, λ*)z > 0
∀ z ≠ 0, z∈En | zT ∇hj(x*) = 0
donde:
∇x2L(x*, λ*) : Hessiano de L solo con respecto a x
NC&GM - 49
Método de Lagrange
2. Si x* es un máximo local estricto
Entonces,
∇L(x*, λ*) = 0 ^ zT∇x2L(x*, λ*)z < 0
∀ z ≠ 0, z∈En | zT ∇hj(x*) = 0
donde:
∇x2L(x*, λ*) : Hessiano de L solo con respecto a x

NC&GM - 50
Método de Lagrange
Ejemplo 2.6: Determinar una solución de:

max x1x2
s.a:
x12 + x2 = 2

NC&GM - 51
Método de Lagrange
1º Método:
1. Despeje:
x2 = 2 – x12
2. Sustitución:
x2 = 2 – x12 → max x1(2 – x12)

max 2x1 – x13 R1

O(f)

NC&GM - 52
Método de Lagrange
f(x) = 2x1 – x13

Dado que f es doblemente diferenciable:

∇f(x*) = 2 – 3x12
∇

∇2f(x*) = – 6x1

NC&GM - 53
Método de Lagrange
Entonces,
∇f(x*) = 0
2 – 3x12 = 0
2 – 3x12 = 0 → x1 = ±(2/3)0.5
Dado z = z:

zT∇2f(x*)z = z· – 6x1 · z

zT∇2f(x*)z = – 6x1 · z 2
NC&GM - 54
Método de Lagrange
x1 = +(2/3)0.5 → zT∇2f(x*)z < 0 → Máximo Local
Estricto
x1 = – (2/3)0.5 → zT∇2f(x*)z > 0 → Mínimo Local
Estricto

x1 = +(2/3)0.5 → x2 = 2 – 2/3 = 4/3

Solución: x = ((2/3)0.5 4/3)T

NC&GM - 55
Método de Lagrange
2º Método:
1. Identificar las funciones pertinentes::
f(x) = x1x2
h1(x) = x12 + x2 – 2

2. Construir el Langrangeano:

L(x, λ) = x1x2 – λ1(x12 + x2 – 2)

NC&GM - 56
Método de Lagrange
3. Encontrar el punto estacionario del Langrangeano:

∇L(x, λ) = (x2 – 2λ1x1 x1 – λ1 – x12 – x2 + 2)T = 0

↓
x2 – 2λ1x1 = 0
x1 – λ1 = 0
x12 + x2 – 2 = 0
↓
x1 = λ1 = ±(2/3)0.5, x2 = 4/3

NC&GM - 57
Método de Lagrange
4. Comprobar si se satisface la condición necesaria y
suficiente:
∇L(x*, λ*) = 0 ^ zT∇x2L(x*, λ*)z < 0
∀ z ≠ 0, z∈En | zT ∇hj(x*) = 0
zT∇x2L(x*, λ*)z:

 ∂L(x * , λ * ) ∂L(x , λ ) 
* *
 
2 * *
∇ x L(x , λ ) =  ∂x1∂x1 ∂x1∂x 2 
 ∂L(x * , λ * ) ∂L(x , λ ) 
* *

 
 ∂x 2 ∂x1 ∂x 2 ∂x 2 
NC&GM - 58
Método de Lagrange

 − 2λ 1 1
∇ x L(x , λ ) = 
2 * *

 1 0
Dado z = (z1 z2) : T

 − 2λ 1 1  z1 
z ∇ x L(x , λ )z = (z1 z 2 )
T 2 * *
 
 1 0  z 2 
 z1 
z ∇ x L(x , λ )z = (z 2 − 2λ 1z1 z1 ) 
T 2 * *

 z2 
zT∇x2L(x*, λ*)z = z1· (z2 – 2λ1z1) + z1 z2

NC&GM - 59
Método de Lagrange
zT∇x2L(x*, λ*)z = 2 z1 z2 – 2λ1z12

zT ∇hj(x*) = 0:

∇ 1(x) = (2x1
∇h 1) T

 2x1 
z ∇h 1(x ) = (z1
T *
z 2 )  = 2 x1z1 + z 2
 1 

NC&GM - 60
Método de Lagrange
zT ∇hj(x*) = 0
↓
2 x1z1 + z2 = 0

z2 = – 2 x1z1
↓
z = (z1 – 2 x1z1)T

NC&GM - 61
Método de Lagrange
zT∇x2L(x*, λ*)z = 2 z1 z2 – 2λ1z12
z = (z1 – 2 x1z1)T
↓
zT∇x2L(x*, λ*)z = 2 z1(– 2 x1z1) – 2λ1z12

zT∇x2L(x*, λ*)z = – 4 x1z1 2 – 2λ1z12

(x1 = λ1)
zT∇x2L(x*, λ*)z = – 6x1z1 2

NC&GM - 62
Método de Lagrange
x = (+(2/3)0.5 4/3)T λ1 = +(2/3)0.5
↓
zT∇x2L(x*, λ*)z < 0 → Máximo Local
Estricto
x = (–(2/3)0.5 4/3)T λ1 = –(2/3)0.5
↓
zT∇x2L(x*, λ*)z > 0 → Mínimo Local
Estricto
Solución: x = ((2/3)0.5 4/3)T
NC&GM - 63
Resumen

Programación matemática.

Región Factible: S.

Problema de optimización: O(f, S)

Vecindad:

Vecindad esférica, Vecindad rómbica, Vecindad cúbica.

Extremos:

Mínimo Local, Máximo Local, Mínimo Local Estricto, Máximo Local
Estricto, Mínimo Global, Máximo Global, Mínimo Global Estricto,
Máximo Global Estricto.

Optimización Clásica:

Problemas irrestrictos: O(f).

Problemas con restricciones de igualdad: O(f, S) | S : hj = 0.

Punto Interior, Funciones Diferenciables, Gradiente ∇f(x), Hessiano
∇2f(x).

NC&GM - 64
Resumen

Matriz

definida positiva, definida negativa, semidefinida positiva,
semidefinida negativa.

Condición necesaria para un extremo de O(f).

Condición suficiente para un extremo de O(f): Máximo y Mínimo,
basada en una vecindad

Optimización de problemas con restricciones de igualdad:

1º Método: Despeje.

2º Método: Método de Lagrange.

Método de Lagrange

Lagrangeano

Multiplicadores de Lagrange

Condición necesaria y suficiente para un extremo de un problemas de
optimización O(f,S) con restricciones de igualdad.

NC&GM - 65