Documentos de Académico
Documentos de Profesional
Documentos de Cultura
Unidad Azcapotzalco
Division de Ciencias Basicas e Ingeniera
Posgrado en Optimizacion
Alumno
Edwin Montes Orozco
2153800494
UEA:
Algoritmos Evolutivos
CDMX, Mexico
1. Introducci
on
La evolucion diferencial ED es una rama de la computacion evolutiva desarrollada por
Rainer Storn y Kenneth Price [10] para optimizacion en espacios continuos. En la evolucion
diferencial (ED), las variables se representan mediante n
umeros reales. La poblacion inicial
se genera de forma aleatoria y se seleccionan tres individuos como padres. Uno de los
padres es el padre principal y este se perturba con el vector de los otros dos padres. Si el
valor resultante es mejor que el elegido para reemplazo, entonces lo reemplaza. De otra
forma, se retiene al padre principal.
La ED es un metodo de b usqueda que utiliza NP vectores xi,G , i = 1, 2, ..., N P como
la poblacion de cada generacion (G). El valor de NP no cambia durante el proceso de
minimizacion. La poblacion inicial se elige de manera aleatoria si no se conoce nada
acerca del problema. Como regla, se asume una distribucion uniforme para las decisiones
aleatorias a tomar. La idea principal detras de la ED es un nuevo esquema para generar
vectores. La ED genera estos nuevos vectores cuando se suma la diferencia de pesos entre
dos vectores miembros de la poblacion a un tercer vector miembro.
Si la aptitud del vector resultante es menor que el miembro de la poblacion elegido
entonces el nuevo vector reemplaza al vector con el cual fue comparado. Este vector a
comparar puede ser (aunque no necesariamente lo es) parte del proceso de generacion
arriba mencionado. Ademas, el mejor vector Xmejor,G se eval ua en cada generacion G
para no perder de vista el progreso durante el cual se hace la minimizacion.
2. Instancias a Evaluar
En este trabajo se utilizaron 3 instancias de prueba pertenecientes al conjunto de
instancias conocidas como Engineering design problems, las cuales son:
1. Himmelblau.
2.1. Himmelblau
La instancia Himmelblau, se divide en dos tipos (Tipo A y Tipo B)1 , las cuales difieren
en la restriccion 1, la definicion de esta instancia se ve de la siguiente forma:
2
s.a.
0 g1 (x1 , ..., x5 ) 92 (2)
78 x1 102
33 x2 45
27 x3 , x4 , x5 45
3
g6 (d, t) = (t/0.8) 1 0 (15)
0.01 xi 0, i = 1, 2, 3, 4, 5.
Se espera que la para la instancia Himmelblau sea mas complicado obtener buenos
resultados; esto es debido a la dificultad de las restricciones.
Para las instancias Cantilever Beam y Tubular Column Design, se espera que sea facil
acercarse a la region cercana al valor optimo debido a los intervalos de cada variable, ya
que ayudan al cumplimiento de algunas restricciones.
3. T
ecnicas utilizadas
En este trabajo se utilizaron RAND/1/BIN y BEST/1/BIN, la primera es la variante
mas popular para ED, donde RAND indica que los individuos que son seleccionados
para ser mutados se escogen de manera aleatoria, 1 es el n umero de pares de soluciones
escogidos y bin significa que se utiliza una cruza binomial [9]. En BEST/1/BIN la u nica
diferencia con respecto a RAND/1/BIN es que el vector base no se escoge aleatoriamente,
si no que es el mejor vector de la poblacion actual.
4
3.1.2. Penalidad din
amica
Al igual que en penalidad estatica se le a
nade al valor de la funcion objetivo el valor
de la sumatoria de las restricciones violadas multiplicadas por un valor. La diferencia se
da en que el valor por el que se multiplican es el n
umero de la generacion actual. dentro
de ED. Esto se puede ver de la siguiente forma:
n
X
F o + generaci
on( Gi )
i=1
Donde n es el n
umero de restricciones del problema.
1. Si las dos soluciones son factibles, gana la que tiene mejor valor de funcion objetivo.
2. Si las dos soluciones son infactibles, la que tenga la menor distancia a la region
factible es la ganadora.
Buenos valores para estos parametros de control conducen a mejores individuos que,
a su vez, tienen mas probabilidades de sobrevivir y producir descendencia y, por lo tanto,
5
propagar estos mejores valores de los parametros. Los parametros de control Fi,G+1 y
CRi,G+1 se calculan de la siguiente forma:
(
Fl + rand1 xFu , si rand2 < 1 ;
Fi,G+1 = (19)
Fi,G , en otro caso.
(
rand3 , si rand4 < 2 ;
CRi,G+1 = (20)
CRi,G , en otro caso.
4. Resultados
4.1. Detalles de la Implementaci
on
Ambas implementaciones guardan en cada generacion el mejor, peor y valor promedio
en distintos archivos. Por lo que en estos archivos se tiene la evolucion de los mismos. Se
devuelve tambien un archivo que contiene la informacion del mejor valor global encontrado
y la generacion en la que se encontro, as como los tiempos de ejecucion del programa y el
n
umero de llamadas realizadas a la funcion objetivo. Gracias al ajuste de los parametros
se logra que todas las corridas lleguen a soluciones factibles.
4.2. Pruebas
Se realizo el analisis para las dos tecnicas realizando veinte corridas del programa
para las tres instancias com ambas tecnicas. De esas corridas, se obtuvo el mejor valor
obtenido, el valor promedio, el peor valor, la varianza y desviacion estandar. Despues,
con esa informacion se desarrollo la prueba de Wilcoxon y un remuestreo de los datos
utilizando bootstrap.
6
En la Tabla 2 se observan los mejor/peor/promedio/desviacion valores en la instancia
Himmelblau Tipo A ocupando las tres tecnicas de manejo de restricciones para la version
RAND/1/BIN.
Himmelblau A
P. est
atica P. dinamica P. dominancia
Mejor -30665.5386780 -30665.5386717 -30665.5355923
Peor -30665.5386703 -30665.1583632 -30665.475526
Promedio -30665.53867261 -30665.429186596 -30665.5215830465
Desviaci
on E. 1.55356998530244E-006 0.1255512741 0.0162933627
Tubular
P. est
atica P. din
amica P. dominancia
Mejor 26.4994968916 26.4994968923 26.4994968915
Peor 26.4994968931 26.4994968957 26.4994968933
Promedio 26.4994968921 26.4994968589 26.4994968919
Desviaci
on E. 4.53379667361605E-010 0.000000148 5.0625030302538E-010
Cantilever
P. est
atica P. dinamica P. dominancia
Mejor 1.3399563606 1.3399563606 1.3399564391
Peor 1.33998536 1.340026507 1.340080524
Promedio 1.3399617595 1.3399727579 1.339980555
Desviaci
on E. 8.39528929360018E-006 1.96695444064073E-005 3.42936837543131E-005
7
Himmelblau A
P. est
atica P. dinamica P. dominancia
Mejor -30665.5386718 -30665.5386718 -30665.56386718
Peor -30665.5386718 -30665.4738053 -30665.5236717
Promedio -30665.5386718 -30665.5351627 -30665.538989954
Desviaci
on E. 0 0.0144559057 0.0067754462
Tabla 5: Resultados con BEST/1/BIN para la instancia Himmelblau.
Tubular
P. est
atica P. din
amica P. dominancia
Mejor 26.4994968916 26.4994968915 26.4994968892
Peor 26.4994968931 26.4994969122 26.4994968936
Promedio 26.4994968921 26.4994968961 26.4994968918
Desviaci
on E. 4.58716726420624E-010 6.37403215754708E-009 0.000000001
Cantilever
P. est
atica P. din
amica P. dominancia
Mejor 1.3399563606 1.3399574 1.339958054
Peor 1.3401048 1.3399903 1.34184718
Promedio 1.3399835378 1.3399674153 1.3401459059
Desviaci
on E. 4.16441062688721E-005 9.1637625224699E-006 0.0004304584
En [6] se reporta como mejor resultado para la instancia Himmelblau tipo A con un valor
de -31025.5604 con el siguiente vector: (78, 33, 27.070997, 45, 44.96924255) y valor de las
restricciones 91.9999715, 98.84046693, 20.00000109. Sin embargo, al realizar la evaluacion
de este vector se observa que tiene los valores g1: 93.2853620104, g2: 97.2077014083, g3:
19.9999999584, violando la restriccion 1.
8
En investigaciones posteriores [5] [2], se da como mejor valor a -30665.56680546 pa-
ra el tipo A y -31025.57569195 para el tipo B.
Respecto a la instancia Tubular Column Design en [7] reportan como mejor resultado
26.5311 y en [4] reportan como mejor resultado 26.5314, mientras que en [2] reportan
como mejor resultado 26.499498808.
Para la instancia Cantilever Beam en [3] se reporta como mejor resultado 1.33996, en
[2] se reporta como mejor resultado 1.33995637.
Resultados comparativos
Himmelblau A Tubular
Mejor Reportado Mejor ED Mejor Reportado Mejor ED
FO -30665.56680546 -30665.56386718 26.499498808 26.4994968915
x1 78 78 5.451155784 5.4511562343
x2 33 33 0.291965554 0.2919654771
x3 29.99516951 29.9952560257
x4 45 45
x5 36.77574688 36.7758129058
g1 91.9999989956 92 -1.81E-007 5.39E-010
g2 94.9153977568 94.9154019745 -1.74E-008 6.35E-010
g3 19.9999598273 20 -6.33E-001 -6.33E-001
g4 -6.11E-001 -6.11E-001
g5 -3.15E-001 -3.15E-001
g6 -6.35E-001 -6.35E-001
Resultados comparativos
Cantilever Himmelblau B
Mejor Reportado Mejor ED Mejor Reportado Mejor ED
FO 1.33995637 1.3399563606 -31025.55977 -31025.5602425
x1 6.0160159 6.0160158813 78 78
x2 5.3091739 5.309173835 33 33
x3 4.4943296 4.4943295717 27.070999 27.0709971052
x4 3.501475 3.501475021 45 45
x5 2.15266533 2.152665316 44.9692433 44.9692425501
g1 -1.47E-008 3.47E-009 91.99999991 91.9999999995
g2 100.4047847 97.2077013953
g3 20.00000084 20.0000000019
g4
g5
g6
9
4.4. Evoluci
on de las generaciones
A continuacion se muestran las graficas de la evolucion de los valores promedio obte-
nidos en las n generaciones para ambas versiones de ED con las tres tecnicas de manejo
de restricciones para las tres instancias de prueba.
En la Figura 2 se tiene la evolucion de los individuos generados para las n generaciones
utilizando la tecnica RAND/1/BIN, en la cual podemos observar que se inicia con valores
altos para la instancia; sin embargo en las primeras generaciones converge hacia la region
cercana al mejor resultado reportado.
10
En la Figura 4 se tiene la evolucion de los individuos generados para las n generaciones
utilizando la tecnica RAND/1/BIN, en la cual se observa que la evolucion de los individuos
generados para las n generaciones van decreciendo de una forma mas lenta, sin embargo
estos llegan facilmente a valores cercanos al mejor resultado reportado.
11
Figura 6: Tubular Column Design con BEST.
12
4.5. Remuestreo Bootstrap
Haciendo una estimacion de la media, desviacion y varianza del conjunto de datos
ocupando RAND/1/BIN, se obtiene lo siguiente.
RAND/1/BIN
Muestra Media Desviacion Varianza
Himmelblau P. est atica -30665.863281 0.002004 0.000004
Himmelblau P. din amica -30665.583984 0.122053 0.014897
Himmelblau P. dominancia -30665.863281 0.016022 0.000257
Tubular P. est
atica 26.499546 0.000006 0.000001
Tubular P. dinamica 26.499546 0.000006 0.000001
Tubular P. dominancia 26.499546 0.000006 0.000001
Cantilever P. est
atica 1.339949 0.000084 0
Cantilever P. din
amica 1.339967 0.000019 0
Cantilever P. dominancia 1.339972 0.000034 0
Tabla 10: Datos por muestra para RAND/1/BIN.
RAND/1/BIN
Media Desviacion
Intervalo inf. Intervalo sup. Intervalo inf. Intervalo sup.
Himmelblau P. est atica -30665.537109 -30665.537109 0.002004 0.002004
Himmelblau P. din amica -30665.480469 -30665.375 0.05723 0.156028
Himmelblau P. dominancia -30665.527344 -30665.511719 0.008837 0.021809
Tubular P. est
atica 26.499502 26.499502 0.000006 0.000006
Tubular P. dinamica 26.499502 26.499502 0.000006 0.000006
Tubular P. dominancia 26.499502 26.499502 0.000006 0.000006
Cantilever P. est
atica 1.339902 1.339965 0.000005 0.000143
Cantilever P. din
amica 1.339965 1.339982 0.000011 0.000026
Cantilever P. dominancia 1.339968 1.339997 0.000013 0.000047
13
Rand
Himmelblau A Tubular Column Cantilever Beam
Estadstico Wilcoxon Estadstico Wilcoxon Estadstico Wilcoxon
P. est
atica 210 210 210
P. din
amica 210 210 210
P. dominancia 210 210 210
Best
Himmelblau A Tubular Column Cantilever Beam
Estadstico Wilcoxon Estadstico Wilcoxon Estadstico Wilcoxon
P. est
atica 210 210 210
P. din
amica 210 210 210
P. dominancia 210 210 210
Con base en las tablas 12 y 13 podemos deducir que se obtienen resultados estadsti-
camente similares a los mejores resultados reportados en la literatura para cada una de
las instancias.
Himmelblau A
Penalidad Est
atica Penalidad din
amica Penalidad dominancia
Z P U Z P U Z P U
P. est
atica -4.9637 0 127 -5.3965 0 127
P. din
amica -4.9637 0 127 3.3407 0.00084 127
P. dominancia -5.3965 0 127 3.3407 0.00084 127
14
Tubular Column Design
Penalidad Est
atica Penalidad dinamica Penalidad dominancia
Z P U Z P U Z P U
P. est
atica 0.825 0.40654 169 1.1091 0.267 158.5
P. din
amica 0.825 0.40654 169 0.1623 0.87288 193.5
P. dominancia 1.1091 0.267 158.5 0.1623 0.87288 193.5
5. Conclusiones
Con base en las pruebas estadsticas, se puede ver que se obtienen resultados cercanos
al mejor reportado en la literatura para cada una de las instancias. Fue necesario probar
individulmente los mejores resultados presentados en la literatura y los mejores resultados
obtenidos en este trabajo, esto con fin de comprobar que se cumplieran las restricciones
para cada instancia. Al realizar la prueba no parametrica de Wilcoxon Mann-Whitney se
observa que se generan soluciones que son estadsticamente similares para cada una de
las tecnicas de manejo de restricciones, por lo tanto para las tres instancias de prueba se
tienen comportamientos similares.
Tambien, al observa el comportamiento de cada una de las tecnicas conforme al avance
de las generaciones, se observa que la tecnica converge rapidamente hacia la zona factible,
sin embargo en problemas donde se tenga mas de una zona factible dentro del espacio
de b usqueda, la b
usqueda puede quedar estancada y no salir de esa zona; por lo cual es
necesario aplicar reglas o nuevas tecnicas para el manejo de las restricciones y evitar esta
problematica.
Por otro lado, se puede notar que la tecnica BEST/1/BIN converge a un mas rapido
hacia la zona factible o la zona del mejor valor encontrado por la tecnica, debido a que las
soluciones van guadas por ese elemento mejor encontrado hasta el momento; para esto,
es necesario modificar el tipo de cruza y el manejo de los intervalos de cada una de las
variables en la mutacion. Ademas, podra realizarse la adaptacion de los operadores de
F y Cr para cada variable y no manejarlas globalmente para cada individuo, para poder
lograr as una mayor diversificacion sobre el individuo en cuestion.
15
Referencias
[1] Brest, J., Greiner, S., Boskovic, B., Mernik, M., Zumer, V.: Self-Adapting Control
Parameters in Differential Evolution. IEEE Transactions on Evolutionary Compu-
tation, (2006).
[2] De-los-Cobos-Silva Sergio Gerardo et. al. Best Results so far for Some Hard Engi-
neering Optimization Problems, 2015.
[3] Doddy Prayogo, Min-Yuan Cheng. Black hole-inspired algorithm: an intelligent ap-
proach for solving constrained structural design optimization. Dept of Construction
Engineering, National Taiwan University of Science and Technology, Taipei, Taiwan,
2014.
[4] Gandomi Amir H., Roke David A. Engineering Optimization using Interior Search
Algorithm. Springer, 2015.
[5] Harish Garg, Solving Structural Enginnering Design Optimization Problems using
an Artificial Bee Colony Algorithm. Journal of Industrial and Management Optimi-
zation. Volume 10, Number 3, July 2014.
[6] Jaberipour M. and Khorram E. (2010) Two improved harmony search algorithms for
solving engineering optimization problems Commun Nonlinear Sci Numer Simulat,
15:3316-3331.
[7] Kumar SharmacTarun, and Pantm Millie. Improved Local Search in Shuffled Frog
Leaping Algorithm, IEEE 2015.
[8] Price, K.V., Storn, R.M., Lampinen, J.A. Differential Evolution, A Practical Ap-
proach to Global Optimization. Springer, Heidelberg (2005).
[9] Price, K. An introduction to differential evolution. In: David Corne, Marco Dorigo,
and Fred Glover, editors, New Ideas in Optimization, pp. 79108, Mc Graw-Hill, UK
(1999).
[10] Storn, R., Price, K. Differential Evolution-a simple and efficient adaptive scheme for
global optimization over continuous spaces, (1995).
16