Assaely (UAM) Optimización sin Restricciones 11 de Mayo de 2020 1 / 12
Contenido
1 Optimización sin Restricciones
Clases de mı́nimos Direcciones Factibles y Derivadas direccionales
Assaely (UAM) Optimización sin Restricciones 11 de Mayo de 2020 2 / 12
Problema sin restricciones
Recordatorio:
minimizar f (x̄) (1)
sujeta a x̄ ∈ Rn
Assaely (UAM) Optimización sin Restricciones 11 de Mayo de 2020 3 / 12
Clases de mı́nimos
En el problema general de optimización se distinguen dos clases de mı́nimos:
Assaely (UAM) Optimización sin Restricciones 11 de Mayo de 2020 4 / 12
Clases de mı́nimos
En el problema general de optimización se distinguen dos clases de mı́nimos:
Sea f : Rn → R, Ω ∈ Rn una función de valor real.
Un punto x̄ ∗ es un mı́nimo local de f en Ω si ∃ > 0 t.q.
f (x̄ ∗ ) ≤ f (x̄) ∀x̄ ∈ Ω\{x̄ ∗ } y ||x̄ − x̄ ∗ || <
Assaely (UAM) Optimización sin Restricciones 11 de Mayo de 2020 4 / 12
Clases de mı́nimos
En el problema general de optimización se distinguen dos clases de mı́nimos:
Sea f : Rn → R, Ω ∈ Rn una función de valor real.
Un punto x̄ ∗ es un mı́nimo local de f en Ω si ∃ > 0 t.q.
f (x̄ ∗ ) ≤ f (x̄) ∀x̄ ∈ Ω\{x̄ ∗ } y ||x̄ − x̄ ∗ || <
Un punto x̄ ∗ es un mı́nimo global de f sobre Ω si
f (x̄ ∗ ) ≤ f (x̄) ∀x̄ ∈ Ω\{x̄ ∗ }
Assaely (UAM) Optimización sin Restricciones 11 de Mayo de 2020 4 / 12
Clases de mı́nimos
Sea f : Rn → R, Ω ∈ Rn una función de valor real.
Un punto x̄ ∗ es un mı́nimo local de f en Ω si ∃ > 0 t.q.
f (x̄ ∗ ) ≤ f (x̄) ∀x̄ ∈ Ω\{x̄ ∗ } y ||x̄ − x̄ ∗ || <
Un punto x̄ ∗ es un mı́nimo global de f sobre Ω si
f (x̄ ∗ ) ≤ f (x̄) ∀x̄ ∈ Ω\{x̄ ∗ }
Obs: Si cambiamos el sı́mbolo ≤ por < tenemos mı́nimo local o global
estricto.
Assaely (UAM) Optimización sin Restricciones 11 de Mayo de 2020 4 / 12
x1 es un mı́nimo global estricto x2 es un mı́mimo local estricto de f sobre Ω x3 mı́nimo local (no estricto)
Assaely (UAM) Optimización sin Restricciones 11 de Mayo de 2020 5 / 12
Estrictamente hablando, un problema de optimización es resuelto únicamen- te cuando un mı́nimo global es encontrado.
Sin embargo, los mı́nimos globales, en general, son difı́ciles de encontrar.
Por lo tanto en la práctica, usualmente estamos satisfechos con encontrar mı́nimos locales.
Assaely (UAM) Optimización sin Restricciones 11 de Mayo de 2020 6 / 12
Derivas de primer y segundo orden Sea f : Rn → R una función de valor real. La derivada de primer orden de f , denotada por Df , es ∂f ∂f ∂f Df := , , ..., ∂x1 ∂x2 ∂xn
Assaely (UAM) Optimización sin Restricciones 11 de Mayo de 2020 7 / 12
Derivas de primer y segundo orden Sea f : Rn → R una función de valor real. La derivada de primer orden de f , denotada por Df , es ∂f ∂f ∂f Df := , , ..., ∂x1 ∂x2 ∂xn Observe que: Df = (∇f )T
Assaely (UAM) Optimización sin Restricciones 11 de Mayo de 2020 7 / 12
Derivas de primer y segundo orden Sea f : Rn → R una función de valor real. La derivada de primer orden de f , denotada por Df , es ∂f ∂f ∂f Df := , , ..., ∂x1 ∂x2 ∂xn Observe que: Df = (∇f )T De igual forma, la derivada segunda de f : Rn → R. Llamada también matriz Hessiana (Hessiano), es 2 ∂ 2 f (x̄) ∂ f (x̄) ∂x 2 ... 1 ∂xn ∂x1 2 Hf (x̄) := D f (x̄) = .. . .. 2 . ∂ f (x̄) 2 ∂ f (x̄) ... ∂x1 ∂xn ∂xn2
Assaely (UAM) Optimización sin Restricciones 11 de Mayo de 2020 7 / 12
Derivas de primer y segundo orden Sea f : Rn → R una función de valor real. La derivada de primer orden de f , denotada por Df , es ∂f ∂f ∂f Df := , , ..., ∂x1 ∂x2 ∂xn Observe que: Df = (∇f )T De igual forma, la derivada segunda de f : Rn → R. Llamada también matriz Hessiana (Hessiano), es 2 ∂ 2 f (x̄) ∂ f (x̄) ∂x 2 ... 1 ∂xn ∂x1 2 Hf (x̄) := D f (x̄) = .. . .. 2 . ∂ f (x̄) 2 ∂ f (x̄) ... ∂x1 ∂xn ∂xn2
Note que:Hf (x̄) = ∇2 f (x̄) ya que ∇2 = ∇∇T . Además, la matriz Hessiana es
simétrica por las propiedades de continuidad de las derivadas parciales del n-ésimo orden de f . Assaely (UAM) Optimización sin Restricciones 11 de Mayo de 2020 7 / 12 Ejemplo
Assaely (UAM) Optimización sin Restricciones 11 de Mayo de 2020 8 / 12
Direcciones factibles
Assaely (UAM) Optimización sin Restricciones 11 de Mayo de 2020 9 / 12
Direcciones factibles Un vector d¯ ∈ Rn , d¯ 6= 0̄; es una dirección factible, en x̄ ∈ Ω si ∃ α0 > 0 t.q. x̄ + αd¯ ∈ Ω ∀α ∈ [0, α0 ]
Assaely (UAM) Optimización sin Restricciones 11 de Mayo de 2020 10 / 12
Direcciones factibles Un vector d¯ ∈ Rn , d¯ 6= 0̄; es una dirección factible, en x̄ ∈ Ω si ∃ α0 > 0 t.q. x̄ + αd¯ ∈ Ω ∀α ∈ [0, α0 ]
d1 es una dirección factible, d2 no es una dirección factible
Assaely (UAM) Optimización sin Restricciones 11 de Mayo de 2020 10 / 12 Assaely (UAM) Optimización sin Restricciones 11 de Mayo de 2020 11 / 12 Entonces, ∂f d ¯ |α=0 = ∇f (x̄)T d¯ = h∇f (x̄), di = d¯T ∇f (x̄)
(x̄) = f x̄ + α d ∂ d¯ dα
Ejemplo: Sea f (x̄) = x1 x2 x3 y d¯ = (2/3, 1/3, 2/3)T la derivada direccional
de f en la dirección d¯ es x2 x3 ∂f 2 1 2 ¯ (x̄) = (2/3, 1/3, 2/3)T x1 x3 = x2 x3 + x1 x3 + x1 x2 ∂d 3 3 3 x1 x2
¯ = 1, entonces ∂f (x̄) es la razón de cambio instantánea de f en
Como ||d|| ∂ d¯ ¯ x̄ en la dirección d.
Nota: Para mayor profundidad del tema consultar en libros de cálculo 1, la
derivada direccional
Assaely (UAM) Optimización sin Restricciones 11 de Mayo de 2020 12 / 12