Evolu PDF

Introducción a la Optimización Evolutiva
Multiobjetivo
Carlos A. Coello Coello
CINVESTAV-IPN
Depto. de Ingenierı́a Eléctrica
Sección de Computación
Av. Instituto Politécnico Nacional No. 2508
Col. San Pedro Zacatenco
México, D. F. 07300, MEXICO
ccoello@cs.cinvestav.mx
http://www.cs.cinvestav.mx/˜EVOCINV
Carlos A. Coello Coello, Sept. 2002. Introducción a la Optimización Evolutiva Multiobjetivo
Motivación
La mayor parte de los problemas de optimización del mundo real

son naturalmente multiobjetivo. Esto es, suelen tener dos o más
funciones objetivo que deben satisfacerse simultáneamente y que
posiblemente están en conflicto entre sı́. Sin embargo, a fin de
simplificar su solución, muchos de estos problemas tienden a
modelarse como mono-objetivo usando sólo una de las funciones
originales y manejando las adicionales como restricciones.
Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

Conceptos Básicos
El problema de optimización evolutiva multiobjetivo (OEM)

general puede formularse como:
T
Encontrar el vector ~x∗ = [x∗1 , x∗2 , . . . , x∗n ] que satisfaga las m
restricciones de desigualdad:
gi (~x) ≥ 0 i = 1, 2, . . . , m (1)
las p restricciones de igualdad
hi (~x) = 0 i = 1, 2, . . . , p (2)
y que optimice
T
f~(~x) = [f1 (~x), f2 (~x), . . . , fk (~x)] (3)

Optimo de Edgeworth-Pareto
La noción más aceptada de “óptimo” en el entorno de problemas

multiobjetivo es la propuesta originalmente por Francis Ysidro
Edgeworth en 1881 y generalizada posteriormente por Vilfredo
Pareto en 1896.

Optimo de Edgeworth-Pareto
Algunos autores la llaman óptimo de Edgeworth-Pareto, pero es

más común denominarla simplemente óptimo de Pareto.

Optimalidad de Pareto
Decimos que un punto ~x∗ ∈ Ω es un óptimo de Pareto si para

toda ~x ∈ Ω e I = {1, 2, . . . , k} ya sea,
∀i∈I (fi (~x) = fi (~x∗ )) (4)
o hay al menos una i ∈ I tal que
fi (~x) > fi (~x∗ ) (5)

Dominancia de Pareto
Un vector ~u = (u1 , . . . , uk ) domina a otro ~v = (v1 , . . . , vk )

(denotado mediante ~u ~v ) si y sólo si u es parcialmente menor a v,
i.e., ∀i ∈ {1, . . . , k}, ui ≤ vi ∧ ∃i ∈ {1, . . . , k} : ui < vi .

Conjunto de Óptimos de Pareto
Para un problema multiobjetivo dado f~(x), el conjunto de óptimos

de Pareto (P ∗ ) se define como:
P ∗ := {x ∈ Ω | ¬∃ x0 ∈ Ω f~(x0 ) f~(x)}. (6)

Frente de Pareto
Para un problema multiobjetivo dado f~(x) y un conjunto de

óptimos de Pareto P ∗ , el frente de Pareto (PF ∗ ) se define como:
PF ∗ := {~u = f~ = (f1 (x), . . . , fk (x)) | x ∈ P ∗ }. (7)

Ejemplo de un Frente de Pareto

1
0.9
0.8
0.7
0.6
F2
0.5
0.4
0.3
0.2
0.1
0
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1
F1

Estado Actual
Actualmente existen unas 30 técnicas de optimización

multiobjetivo en la literatura de investigación de operaciones. Sin
embargo, la mayorı́a de ellas están limitadas a frentes de Pareto
con ciertas caracterı́sticas (p.ej., convexos) y suelen requerir un
punto inicial de búsqueda. Adicionalmente, suelen generar una sola
solución por ejecución.

Uso de Algoritmos Evolutivos
El potencial de los algoritmos evolutivos para resolver problemas de

optimización multiobjetivo se remonta a finales de los 1960s en que
la tesis doctoral de Rosenberg [1967] indicó la posibilidad de usar
algoritmos genéticos en este dominio.
Sin embargo, el primer intento real por extender un algoritmo
evolutivo a problemas multiobjetivo es el Vector Evaluated Genetic
Algorithm (VEGA) desarrollado por Schaffer en su tesis doctoral de
1984 y presentado en la Primera Conferencia Internacional de
Algoritmos Genéticos (en 1985).

Publicaciones por año (hasta med. 2002)

160
140
120
Number of Publications
100
80
60
40
20
0
83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 00 01 02
Publication Year

Citas por tipo de MOEA

500
450
400
350
300
250
200
150
100
50
0
MOEP MOES MOGA MOGP
MOEA Type

Otras heurı́sticas
25
20
Number of References Reviewed
15
10
0
SA TS AS DRL MA HY
Type of (alternative) multiobjective heuristic
Figura 1: The following labels are used: SA = Simulated Annealing, TS

= Tabu Search, AS = Ant System, DRL = Distributed Reinforcement
Learning, MA = Memetic Algorithm, HY = Hybrid techniques.

Citas por cantidad de funciones objetivo

350
300
250
200
150
100
50
0
2 3 4 5 6 7 8 9 10 11 12 17 23 49 50 65 100 500
Number of MOP Functions (k)

Algoritmos Evolutivos Multiobjetivo
Pueden considerarse, en general, dos tipos principales de algoritmos

evolutivos multiobjetivo:
1. Los algoritmos que no incorporan el concepto de óptimo de
Pareto en el mecanismo de selección del algoritmo evolutivo
(p.ej., los que usan funciones agregativas lineales).
2. Los algoritmos que jerarquizan a la población de acuerdo a si
un individuo es no dominado o no (usando el concepto de
óptimo de Pareto). Ejemplos: MOGA, NSGA, NPGA, etc.

Algoritmos Evolutivos Multiobjetivo
Históricamente podemos considerar que han habido dos

generaciones de algoritmos evolutivos multiobjetivo:
1. Primera Generación: Caracterizada por el uso de
jerarquización de Pareto y nichos. Algoritmos relativamente
simples. También se produjeron enfoques más rudimentarios
(p.ej., funciones agregativas lineales).
2. Segunda Generación: Se introduce el concepto de elitismo en
dos formas principales: usando selección (µ + λ) y usando una
población secundaria.

Tendencias Actuales
Tras gozar de mucho éxito por alrededor de 5 años, los

algoritmos de primera generación han comenzado a caer en
desuso (NSGA, NPGA, MOGA y VEGA).
Desde finales de los 1990s los algoritmos evolutivos
multiobjetivo que usan elitismo son vistos como el estado del
arte en el área (p.ej., SPEA, SPEA2, NSGA-II, MOMGA,
MOMGA-II, PAES, PESA, PESA II, etc.)

Tendencias Actuales
Los algoritmos de segunda generación enfatizan la eficiencia

computacional. Se busca vencer la complejidad de la
jerarquización de Pareto (O(kM 2 ), donde k es el número de
funciones objetivo y M es el tamaño de la población) y de las
técnicas tradicionales de nichos (O(M 2 )).
En la sombra, los algoritmos no basados en dominancia de
Pareto siguen siendo usados en algunos dominios (p.ej.,
optimización combinatoria) con relativo éxito.

Tendencias Actuales
Una tendencia actual es extender otras heurı́sticas a problemas

multiobjetivo. Por ejemplo: búsqueda dispersa, optimización
mediante cúmulos de partı́culas, el sistema inmune artificial,
etc.
También se han propuesto un sinnúmero de hı́bridos y nuevos
algoritmos bioinspirados.

Teorı́a
Existen unos pocos estudios de convergencia de un algoritmo

evolutivo multiobjetivo a un conjunto de óptimos de Pareto
[Rudolph, 1998, 2000; Hanne, 2000, 2000a; Van Veldhuizen,
1998].
También hay trabajo reciente en torno a las métricas y en
torno a la dinámica poblacional de los algoritmos evolutivos
multiobjetivo.
Se requiere aún mucho trabajo. Por ejemplo: modelado teórico
de operadores, convergencia de algoritmos paralelos, estudio de
la estructura de los paisajes de aptitud de problemas
multiobjetivo, etc.

Aplicaciones
300
250
Number of Applications Reviewed

200
150
100
50
0
Eng Ind Sci Misc
Application Area
Figura 2: Distribución general de aplicaciones reportadas en la lite-

ratura: Eng = Engineering, Ind = Industrial, Sci = Scientific, Misc
= Miscellaneous.

60
50

40
30
20
10
0
ENH EE Tel RC SM CC Tra A
Engineering Field
Figura 3: ENH = Environmental, Naval, and Hydraulic, EE = Electrical

and Electronics, Tel = Telecommunications and Network Optimization,
RC = Robotics and Control, SM = Structural & Mechanical, CC = Civil
and Construction, Tra = Transport, A = Aeronautical.

50
45
40

35
30
25
20
15
10
0
DM SC GR MA
Type of Industrial Application
Figura 4: DM = Design and Manufacture, SC = Scheduling, GR = Grou-

ping and Packing, MA = Management.

Aplicaciones
Aunque el volumen actual de aplicaciones es considerable,

muchos dominios no han sido abordados todavı́a. Por ejemplo:
visión por computadora, ajuste de modelos basados en
elementos finitos, reconocimiento de patrones, etc.
Los algoritmos paralelos ciertamente se volverán más populares
en los años venideros, pero no hay una visión clara respecto a
qué tipo de algoritmos son más adecuados para qué tipo de
problemas.

Funciones de Prueba
Durante cerca de 15 años se subestimó la necesidad de contar

con funciones de prueba estándar.
Hoy en dı́a existen varias propuestas que incluyen funciones
con 2 y 3 objetivos, algunas de las cuales son escalables. Entre
sus caracterı́sticas interesantes destacan las siguientes:
multifrontalidad, frentes de Pareto cóncavos y segmentados,
alta dimensionalidad, decepción, etc.
Recientemente se han propuesto también funciones con
restricciones y problemas de optimización combinatoria
multiobjetivo.

Funciones de Prueba
Se requieren, entre otras, funciones de prueba dinámicas, con

epı́statis elevada, con más de 3 funciones objetivo, con
funciones objetivo cuyo costo de evaluación sea muy elevado y
crezca exponencialmente con la dimensionalidad del problema,
etc.
También son de gran interés los generadores automáticos de
funciones de prueba, los cuales son prácticamente inexistentes
en la actualidad.

Ejemplos de Funciones de Prueba
MOP6 P
true
1
0.9
0.8
0.7
0.6
y−value
0.5
0.4
0.3
0.2
0.1
0
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1
x−value
Figura 5: Ptrue de una de las funciones de Deb.

MOP6 PFtrue
1
0.5
Function 2
−0.5
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9
Function 1
Figura 6: P Ftrue de una de las funciones de Deb.

Osyczka (2) Pareto Optimal Solutions

2
1.9
1.8
1.7
1.6
y−value
1.5
1.4
1.3
1.2
1.1
1
0 0.5 1 1.5 2 2.5 3 3.5 4 4.5 5
x−value
Figura 7: Ptrue de una de las funciones de Osyczka.

Osyczka (2) Pareto Front

180
160
140
120
Function 2
100
80
60
40
20
0
−300 −250 −200 −150 −100 −50 0
Function 1
Figura 8: P Ftrue de una de las funciones de Osyczka.

Métricas
Los tres valores fundamentales que miden las métricas de la

actualidad son [Zitzler et al., 2000]:
1. Minimizar la distancia del frente de Pareto producido por
nuestro algoritmo con respecto al frente verdadero (suponiendo
que lo conocemos).
2. Maximizar la distribución de soluciones obtenidas, de manera
que podamos tener una distribución de vectores tan uniforme
como sea posible.
3. Maximizar la cantidad de elementos del conjunto de óptimos de
Pareto generados.

Métricas
El problema fundamental de las métricas es que los 3 valores antes

mencionados deben combinarse de diferentes maneras para poder
establecer el desempeño de un algoritmo de manera cuantitativa.
Sin embargo, dichas combinaciones no son más que combinaciones
lineales de pesos (tan “satanizadas” en optimización evolutiva
multiobjetivo). Irónicamente, el problema de las métricas resulta
ser también de naturaleza multiobjetivo.

Algunas Ideas de Investigación
Uso de estructuras de datos espaciales (quadtrees u octrees)

para hacer más eficiente el almacenamiento de los vectores no
dominados en espacios discretos.
Incorporación de mecanismos adicionales para manejo de
incertidumbre (p.ej., lógica difusa).
Desarrollo de algoritmos especı́ficos que ataquen problemas
tales como la epı́stasis elevada. Por ejemplo, el Generalized
Regression GA (GRGA) [Tiwari et al., 2001].
Uso de conceptos multiobjetivo para cambiar la forma del
paisaje de aptitud de un problema.

El Sitio Web Sobre Optimización Evolutiva

Multiobjetivo
Visite: http://delta.cs.cinvestav.mx/˜ccoello/EMOO/
Contiene datos de alrededor de 50 investigadores de todas partes
del mundo, ası́ como software de dominio público y una base de
datos con más de 1030 referencias bibliográficas sobre optimización
evolutiva multiobjetivo (muchas de ellas disponibles en formato
electrónico).

A Manera de Conclusiones
La optimización evolutiva multiobjetivo presenta actualmente

muchas oportunidades de investigación.
Muchos problemas de dificultad “intermedia” todavı́a no han
sido resueltos adecuadamente.
Hay un sinnúmero de posibles aplicaciones por ser exploradas.
¿Cuándo ocurrirá la tercera generación? ¿Habrá un cambio de
paradigma?

Evolu PDF

Cargado por

Información del documento

Título original

Derechos de autor

Formatos disponibles

Compartir este documento

Compartir o incrustar documentos

Opciones para compartir

¿Le pareció útil este documento?

¿Este contenido es inapropiado?

Copyright:

Formatos disponibles

Evolu PDF

Cargado por

Copyright:

Formatos disponibles

Introducción a la Optimización Evolutiva

Carlos A. Coello Coello

La mayor parte de los problemas de optimización del mundo real

Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

El problema de optimización evolutiva multiobjetivo (OEM)

las p restricciones de igualdad

Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

La noción más aceptada de “óptimo” en el entorno de problemas

Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

Algunos autores la llaman óptimo de Edgeworth-Pareto, pero es

Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

Decimos que un punto ~x∗ ∈ Ω es un óptimo de Pareto si para

∀i∈I (fi (~x) = fi (~x∗ )) (4)

o hay al menos una i ∈ I tal que

fi (~x) > fi (~x∗ ) (5)

Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

Un vector ~u = (u1 , . . . , uk ) domina a otro ~v = (v1 , . . . , vk )

Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

Conjunto de Óptimos de Pareto

Para un problema multiobjetivo dado f~(x), el conjunto de óptimos

P ∗ := {x ∈ Ω | ¬∃ x0 ∈ Ω f~(x0 )  f~(x)}. (6)

Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

Para un problema multiobjetivo dado f~(x) y un conjunto de

PF ∗ := {~u = f~ = (f1 (x), . . . , fk (x)) | x ∈ P ∗ }. (7)

Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

Ejemplo de un Frente de Pareto

Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

Actualmente existen unas 30 técnicas de optimización

Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

Uso de Algoritmos Evolutivos

El potencial de los algoritmos evolutivos para resolver problemas de

Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

Publicaciones por año (hasta med. 2002)

Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

Citas por tipo de MOEA

Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

Number of References Reviewed

Figura 1: The following labels are used: SA = Simulated Annealing, TS

Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

Citas por cantidad de funciones objetivo

Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

Algoritmos Evolutivos Multiobjetivo

Pueden considerarse, en general, dos tipos principales de algoritmos

Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

Algoritmos Evolutivos Multiobjetivo

Históricamente podemos considerar que han habido dos

Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

Tras gozar de mucho éxito por alrededor de 5 años, los

Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

Los algoritmos de segunda generación enfatizan la eficiencia

Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

Una tendencia actual es extender otras heurı́sticas a problemas

Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

Existen unos pocos estudios de convergencia de un algoritmo

Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

Number of Applications Reviewed

Figura 2: Distribución general de aplicaciones reportadas en la lite-

Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

Number of Applications Reviewed

Figura 3: ENH = Environmental, Naval, and Hydraulic, EE = Electrical

Depto. de Lenguajes y Ciencias de la Computación, Universidad de Málaga

Number of Applications Reviewed

Figura 4: DM = Design and Manufacture, SC = Scheduling, GR = Grou-

P ∗ := {x ∈ Ω | ¬∃ x0 ∈ Ω f~(x0 ) f~(x)}. (6)