MSTER OFICIAL DE LA UNIVERSIDAD DE GRANADA

"SOFT COMPUTING Y SISTEMAS INTELIGENTES"

SF1. COMPUTACIN EVOLUTIVA

Y ALGORITMOS BIOINSPIRADOS

M. LOZANO, F. HERRERA
Dpto. Ciencias de la Computacin e I.A.
Universidad de Granada
18071 ESPAA

Contenido del Curso. Sesin 3

F. Herrera, 19 de Noviembre de 2008

Evolucin Diferencial
1.b.
Algoritmos memticos.
Sesin 1.a.
1a
MUTACIN
Agente 1

NuevoAgente 1
NuevoAgente 2

Agente 2
CRUCE

OPTIMIZACIN LOCAL

MSTER OFICIAL DE LA UNIVERSIDAD DE GRANADA

"SOFT COMPUTING Y SISTEMAS INTELIGENTES"

EVOLUCIN DIFERENCIAL
Francisco Herrera
Grupo de Investigacin
Soft Computing and Intelligent Information Systems
Dpto.
p
Ciencias de la Computacin
p
e I.A.
Universidad de Granada
18071 ESPAA
herrera@decsai.ugr.es
http://sci2s.ugr.es

COMPUTACIN EVOLUTIVA
PARADIGMAS DE EVOLUCIN
COMPUTACIN EVOLUTIVA
PARADIGMAS CLSICOS
DE EVOLUCIN

ALGORITMOS
GENTICOS

ESTRATEGIAS
DE EVOLUCIN

PROGRAMACIN
GENTICA

PROGRAMACIN
EVOLUTIVA

OTROS MODELOS DE
EVOLUCIN DE POBLACIONES
BASADOS EN MODELOS PROBABI
PROBABILSTICOS: BSC, PBIL, EDA, ...
PARTICLE SWARM: ADAPTACIN
SOCIAL
BSQUEDA DISPERSA
(scatter search)

DIFFERENTIAL EVOLUTION
ALGORITMOS MEMTICOS

SUMARIO

1.

EVOLUCIN
O U DIFERENCIAL

2.

VARIANTES DE LA EVOLUCIN DIFERENCIA

3.

ALGUNOS TRABAJOS EN EVOLUCIN DIFERENCIAL

SUMARIO

1.

EVOLUCIN
O U DIFERENCIAL

2.

VARIANTES DE LA EVOLUCIN DIFERENCIA

3.

ALGUNOS TRABAJOS EN EVOLUCIN DIFERENCIAL

1.

EVOLUCIN DIFERENCIAL

Es un modelo evolutivo que enfatiza la mutacin, utiliza un

p
de cruce/recombinacin a posteriori
p
de la mutacin.
operador
Fu propuesto para optimizacin con parmetros reales.

Fue propuesta of R
R. Storm
Storm, 1997
R. Storn, Differential Evolution, A simple and efficiente heuristic
strategy for global optimization over continuous spaces. Journal
of Global Optimization, 11 (1997) 341-359.
Kenneth V.
V Price,
Price Rainer M.
M Storn,
Storn and Jouni A.
A Lampinen
Differential Evolution: A Practical Approach to Global
Optimization (Natural Computing Series)
S i
Springer-Verlag,
V l 2005.
2005
7

1.

EVOLUCIN DIFERENCIAL

1.

EVOLUCIN DIFERENCIAL

1.

EVOLUCIN DIFERENCIAL

10

1.

EVOLUCIN DIFERENCIAL

11

1.

EVOLUCIN DIFERENCIAL

12

1.

EVOLUCIN DIFERENCIAL

13

1.

EVOLUCIN DIFERENCIAL

14

1.

EVOLUCIN DIFERENCIAL

15

1.

EVOLUCIN DIFERENCIAL
Procedimiento Bsico

Evolucin
Diferencial
Procedure DE{
t = 0;
Initialize Pop(t);
p
/* of |Pop(t)|
p
Individuals */
Evaluate Pop(t);
While (Not Done)
{for i = 1 to |Pop(t)| do
{parent1, parent2, parent3} = Select_3_Parents(Pop(t));
thisGene = random_int(|Pop(t)|;
for k = 1 to n do /* n genes per Individual */
if (random < p) *P is crossover constant in [0,1]*
Offspringik = parent1ik +
(parent2ik parent3ik);
else
Offspringik = Individualik in Pop(t);
end /* for k */
Evaluate(Offspringi);
end /* for i */
Pop(t+1) = {j | Offspringj is_better_than Individualj}
{k | Individualk is_better_than Offspringk};
t = t + 1;}

CDIGO: http://www.icsi.berkeley.edu/~storn/code.html
16

SUMARIO

1.

EVOLUCIN
O U DIFERENCIAL

2.

VARIANTES DE LA EVOLUCIN DIFERENCIA

3.

ALGUNOS TRABAJOS EN EVOLUCIN DIFERENCIAL

17

2.

VARIANTES DE LA
EVOLUCIN DIFERENCIAL

18

2.

VARIANTES DE LA
EVOLUCIN DIFERENCIAL

19

2.

VARIANTES DE LA
EVOLUCIN DIFERENCIAL

20

2.

VARIANTES DE LA
EVOLUCIN DIFERENCIAL

21

2.

VARIANTES DE LA
EVOLUCIN DIFERENCIAL

22

SUMARIO

1.

EVOLUCIN
O U DIFERENCIAL

2.

VARIANTES DE LA EVOLUCIN DIFERENCIA

3.

ALGUNOS TRABAJOS EN EVOLUCIN DIFERENCIAL

23

3.

ALGUNOS TRABAJOS EN
EVOLUCIN DIFERENCIAL

[T06] J. Teo, "Exploring dynamic self-adaptive populations in differential evolution," Soft

Comp ting - A Fusion
Computing
F sion ofFo
ofFoundations,
ndations Methodologies and Applications,
Applications 10(8):
10(8) 673
673-686,
686
2006.
[
[BGBMZ06]
] J. Brest,, S. Greiner,, B. Bokovic,, M. Mernik,, and V. Zumer,, "Self-adapting
p g
control parameters in differential evolution: a comparative study on numerical benchmark
problems," IEEE Transactions on Evolutionary Computation, 10:6 (2006) 646-657

24

3.

ALGUNOS TRABAJOS EN
EVOLUCIN DIFERENCIAL
Opposition based Differential Evolution

El algoritmo comprueba constantemente la calidad de una solucin y de la de su

opuesta en el espacio de bsqueda.
En teora, el 50% de las veces, una solucin inicial aleatoria est ms alejada del
ti
ptimo
global
l b l que su opuesta.
t Se
S escoge la
l mejor
j de
d ambas.
b
Nmero Opuesto: x = a + b x, x [a, b]
Durante su ejecucin, se ejecuta una fase de salto (condicionada a una
probabilidad predefinida) al opuesto de cada individuo y se escogen los mejores.
En este caso, no se utiliza los lmites del problema, sino que se usan los lmites
recogidos
id en la
l poblacin
bl i actual.
t l

S. Rahnamayan, H.R. Tizhoosh, M.M.A. Salama. Opposition-Based Differential

Evolution. IEEE Transactions on Evolutionary Computation, 12:1 (2008) 64-79.

25

3.

ALGUNOS TRABAJOS EN
EVOLUCIN DIFERENCIAL
SaDE: Self adaptive Differential Evolution

Para alcanzar los mejores resultados en un problema, es frecuente usar una

bsqueda prueba-error para dar valor a esos parmetros: CR, F, NP. Se requiere
mucho tiempo.
SaDE se propone para ajustar tanto soluciones como valores de parmetros.
Se
S consideran
id
varias
i
estrategias
t t i
y se elige
li
aquella
ll que funcion
f
i mejor
j
en
generaciones previas.
De alta convergencia: DE/rand-to-best/2/bin.
De lenta convergencia: DE/rand/1/bin.
De dos diferencias, para ofrecer mejores perturbaciones: DE/rand/2/bin
Estrategia de rotacin invariante: DE/current-to-rand/1.
La probabilidad de eleccin de cada estrategia se adapta mediante una memoria
d fallos
de
f ll y aciertos.
i t
SaDE adapta los parmetros CR y F. Inicializacin: F~N(0.5,0.3), CR~N(0.5,0.1)
A.K. Qin, V.L. Huang, P.N. Suganthan. Differential Evolution Algorithm with
strategy Adaptation for Global Numerical Optimization. IEEE Transactions on
Evolutionary Computation, 13:2 (2009) 398-417.

26

3.

ALGUNOS TRABAJOS EN
EVOLUCIN DIFERENCIAL

DEGL: Differential Evolution with Global and Local Neighborhoods

Utiliza una estrategia DE/target
DE/target-to-best/1
to best/1 con alta componente de explotacin. Sin
embargo, aplica el concepto de vecindad local y vecindad global para determinar el
mejor vector, similar a las vecindades en PSO.
Aade
A d un parmetro
t
d peso (w)
de
( ) que combina
bi
ell modelo
d l local
l
l y global
l b l y las
l
vecindades no se establecen acorde a situacin geogrfica ni fitness, si no a priori
en una estructura de anillo.
Si w es cercano a 1, se favorece la explotacin, y si es cercano a 0 se favorece la
exploracin. Adaptacin de w:
Incremental
Aleatoria
Al t i
AutoAdaptacin
S. Das, A. Abraham, U.K. Chakraborty, A. Konar. Differential Evolution Using a
Neighborhood-Based Mutation Operator. IEEE Transactions on Evolutionary
Computation, 13:3 (2009) 526-553.

27

3.

ALGUNOS TRABAJOS EN
EVOLUCIN DIFERENCIAL
JADE: Adaptive Differential Evolution

Utiliza un esquema DE/current

DE/current-to-pbest
to pbest y autoadapta los parmetros F y CR.

Donde se escoge aleatoriamente uno de los 100p% mejores.

xr2 puede escogerse entre la poblacin y un archivo opcional, que mantiene
soluciones
l i
no seleccionadas
l
i
d aleatoriamente
l t i
t en generaciones
i
anteriores.
t i
Autoadaptacin de parmetros similar a SaDE.
J. Zhang, A.C. Sanderson. JADE: Adaptive Differential Evolution with Optional
External Archive. IEEE Transactions on Evolutionary Computation, 13:5 (2009)
945-958.

28

3.

ALGUNOS TRABAJOS EN
EVOLUCIN DIFERENCIAL
SFLSDE: Scale Factor Local search
Differential Evolution

Est basado en algoritmos memeticos.

Utiliza un esquema autoadaptativo con 2 algoritmos de bsqueda local.
Estos algoritmos de bsqueda local tienen como objetivo detectar valores del
factor de escala (F) correspondientes a un descendiente con buen comportamiento.
Comparan sus resultados con:

J. Brest, S. Greiner, B. Bokovic, M. Mernik, and V. Zumer, "Self-adapting control

parameters in differential evolution: a comparative study on numerical benchmark
problems," IEEE Transactions on Evolutionary Computation, 10:6 (2006) 646
problems,
646-657
657
S. Rahnamayan, H.R. Tizhoosh, M.M.A. Salama. Opposition-Based Differential Evolution.
IEEE Transactions on Evolutionary Computation, 12:1 (2008) 64-79.
N. Noman, H. Iba. Accelerating differential evolution using
an adaptive local search. IEEE Trans Evol Comput 12:1 (2008)107125

F. Neri, V. Tirronen. Scale factor local search in differential evolution.

Memetic Computation (2009) 1:153171

29

COMENTARIOS FINALES

Los algoritmos de Evolucin Diferencial son uno de los campos

ms activos en el desarrollo de algoritmos evolutivos para la
optimizacin de parmetros (optimizacin continua).
La hibridacin de los algoritmos de Evolucin Diferencial y los
algoritmos de bsqueda local son una va de trabajo con
potenciales buenos resultados en el mbito de la optimizacin
contin a
continua.

30

http://sci2s ugr es
http://sci2s.ugr.es

Gracias !!!
31