Versión 1.

Algoritmos basados en distribución de probabilidad, semejanzas y

diferencias: BUMDA (2013) & SEED (2019).
EDAs (Estimation of Distribution Algorithms) Algoritmos de Distribución por
Estimación. Son una estrategia que al igual que los algoritmos evolutivos como
algoritmos genéticos tratan de aproximarse a una solución óptima. Sin embargo los
EDAs se basan en la distribución de probabilidad, en este ámbito se le conoce como
(search distribution, SD) distribución de búsqueda, cuyo propósito es aproximarse a
una solución óptima a partir de incrementar la probabilidad de que SD encuentre una
solución óptima en una muestra de información.
Así comenzamos con la comparación de semejanzas y diferencias entre los algoritmos
“Boltzmann Univaritate Marginal Distribution Algorithm” (BUMDA) y “Symmetric-
Approximation Energy-Based Estimation of Distribution” (SEED), cuya primera
semejanza está en el párrafo anterior, pues ambos son algoritmos basados en
distribución de probabilidades para aproximarse a una solución óptima.
La siguiente semejanza con estos dos EDAs está en su función, ambos muestrean de
manera intensiva las regiones más prometedoras dónde puede estar una solución.
Cuando completan este cometido, solamente queda evaluar el mejor resultado de cada
una de las regiones candidatas. Ambos algoritmos tienen particularidad de trabajar con
el modelo de distribución de Boltzmann
Una notable diferencia entre ambos algoritmos esta es su propuesta hacia la
aproximación de dicha, pues la mayoría de los EDAs tratan de llegar a la distribución
de Boltzmann a través de la minimización de la función Kullback-Leibler Divergence
(KLD), este es el caso de BUMDA, mientras que SEED propone dicha aproximación a
través de la divergencia de Jeffrey (Jeffrey´s Divergence).
Otra diferencia entre estos algoritmos está en los parámetros de configuración del
algoritmo, pues en BUMDA necesita 1 solo parámetro (tamaño de la población).
Mientras en SEED, el artículo de referencia menciona que no requiere un control en los
parámetros por parte del usuario, el tamaño de la población puede ser configurado con
un valor predefinido empíricamente.
En cuestión del procesamiento comparten una semejanza, antes de las 20,000
llamadas a función ambos algoritmos muestran un progreso muy lento con respecto a
otros algoritmos. Sin embargo a las 45,000 llamadas a función BUMDA presenta un
punto de inflexión convergiendo en un punto de sub-óptimo y SEED se mueve en
dirección opuesta y acelera la convergencia hacia un mínimo óptimo. Eventualmente,
después de 100,000 llamadas a función BUMDA converge en un valor sub-óptimo, en
este punto SEED ya encontró una solución (en funciones más comunes de
minimización).
Por último una semejanza importante entre estos algoritmos, que como mencionamos
su objetivo es aproximarse a un tipo de distribución de datos (Boltzmann), a través de
la distribución normal (Gaussiana) que como sabemos dos elementos importantes en
esta distribución son la media (µ) y la varianza (σ), pues en esta última reside la
semejanza.
Ambos algoritmos (SEED & BUMDA) toman el valor mínimo de la varianza como un
estimador de Beta (β), que es parámetro de la distribución de Boltzmann (Boltzmann-
PDF).

Versión 2.
Semejanzas y diferencias entre los algoritmos BUMDA & SEED.
Al igual que los algoritmos evolutivos que están bio-inspirados en procesos naturales
para ofrecer soluciones a problemas de optimización, existe otra vertiente usada por un
sector de investigadores con afinidad a un campo de la matemática como la estadística
y probabilidad, en específico estos algoritmos se enfocan en la distribución de
probabilidades (que es una forma de distribución de datos).
En esta comparación encontramos algunas semejanzas y diferencias entre los
algoritmos “Boltzmann Univaritate Marginal Distribution Algorithm” (BUMDA) y
“Symmetric-Approximation Energy-Based Estimation of Distribution” (SEED).
La primera semejanza está en que ambos algoritmos basados en distribución de
probabilidades para aproximarse a una solución óptima. La segunda semejanza está
en su función, ambos muestrean regiones con las probabilidades más prometedoras
dónde puede estar una solución, una vez que completan su función se evalúa el mejor
resultado de cada una de las regiones candidatas. Ambos algoritmos tienen
particularidad de trabajar con el modelo de distribución de Boltzmann.
La segunda semejanza está en su procesamiento, pues antes de las 20,000 llamadas a
función ambos algoritmos muestran un progreso muy lento con respecto a otros
algoritmos. Sin embargo a las 45,000 llamadas a función BUMDA presenta un punto de
inflexión convergiendo en un punto de sub-óptimo y SEED se mueve en dirección
opuesta y acelera la convergencia hacia un mínimo óptimo. Eventualmente, después
de 100,000 llamadas a función BUMDA converge en un valor sub-óptimo, en este punto
SEED ya encontró una solución (en funciones más comunes de minimización).
Una notable diferencia entre ambos algoritmos esta es su propuesta hacia la
aproximación de dicha, pues la mayoría de los EDAs tratan de llegar a la distribución
de Boltzmann a través de la minimización de la función Kullback-Leibler Divergence
(KLD), este es el caso de BUMDA, mientras que SEED propone dicha aproximación a
través de la divergencia de Jeffrey (Jeffrey´s Divergence).
Otra diferencia entre estos algoritmos está en los parámetros de configuración del
algoritmo, pues en BUMDA necesita 1 solo parámetro (tamaño de la población).
Mientras en SEED, el artículo de referencia menciona que no requiere un control en los
parámetros por parte del usuario, el tamaño de la población puede ser configurado con
un valor predefinido empíricamente.

Por último una semejanza importante entre estos algoritmos, que como mencionamos
su objetivo es aproximarse a un tipo de distribución de datos (Boltzmann), a través de
la distribución normal (Gaussiana) que como sabemos dos elementos importantes en
esta distribución son la media (µ) y la varianza (σ), pues en esta última reside la
semejanza.
Ambos algoritmos (SEED & BUMDA) toman el valor mínimo de la varianza como un
estimador de Beta (β), que es parámetro de la distribución de Boltzmann (Boltzmann-
PDF).

Versión 3.
BUMDA & SEED.
En esta comparación se mencionan las semejanzas y diferencias entre los algoritmos
BUMDA y SEED. De las semejanzas más notables está en su manera de procesar la
información pues antes de las 20,000 llamadas a función estos algoritmos son lentos
con las principales funciones de optimización. Sin embargo a las 45,000 llamadas a
función BUMDA presenta un punto de inflexión convergiendo en un punto de sub-
óptimo y SEED se mueve en dirección opuesta y acelera la convergencia hacia un
mínimo óptimo. Eventualmente BUMDA converge en un valor sub-óptimo y en este
punto SEED ya encontró una solución.
Otro parecido peculiar radica en que ambos algoritmos utilizan la distribución de
probabilidades para aproximarse a una solución óptima. En ese contexto encontramos
otra semejanza en su funcionamiento donde ambos encuentran regiones con
probabilidades prometedoras dónde se encuentra una posible solución, una vez que
completan su función se evalúa el mejor resultado de cada una de las regiones
candidatas. Ambos algoritmos tienen particularidad de trabajar con el modelo de
distribución de Boltzmann.
De las diferencias encontradas en ambos algoritmos está en el tipo de aproximación a
la distribución de Boltzmann, misma que es a través de la minimización de la función
Kullback-Leibler Divergence (KLD). Para el caso de BUMDA, mientras que SEED
propone dicha aproximación a través de la divergencia de Jeffrey (Jeffrey´s
Divergence).
Otra diferencia entre estos algoritmos está en los parámetros de configuración del
algoritmo, pues en BUMDA necesita 1 solo parámetro (tamaño de la población).
Mientras en SEED, el artículo de referencia menciona que no requiere un control en los
parámetros por parte del usuario, el tamaño de la población puede ser configurado con
un valor predefinido empíricamente.

Por último una semejanza importante entre estos algoritmos, que como mencionamos
su objetivo es aproximarse a un tipo de distribución de datos (Boltzmann), a través de
la distribución normal (Gaussiana) que como sabemos dos elementos importantes en
esta distribución son la media (µ) y la varianza (σ), pues en esta última reside la
semejanza.
Ambos algoritmos (SEED & BUMDA) toman el valor mínimo de la varianza como un
estimador de Beta (β), que es parámetro de la distribución de Boltzmann (Boltzmann-
PDF).

Versión 4.
BUMDA & SEED: Semejanzas y diferencias entre los algoritmos.
Al igual que los algoritmos evolutivos que están bio-inspirados en procesos naturales
para ofrecer soluciones a problemas de optimización, existe otra vertiente usada por un
sector de investigadores con afinidad a un campo de la matemática como la estadística
y probabilidad, en específico estos algoritmos se enfocan en la distribución de
probabilidades (que es una forma de distribución de datos).
En esta comparación encontramos algunas semejanzas y diferencias entre los
algoritmos “Boltzmann Univaritate Marginal Distribution Algorithm” (BUMDA) y
“Symmetric-Approximation Energy-Based Estimation of Distribution” (SEED).
La primera semejanza está en que ambos algoritmos basados en distribución de
probabilidades para aproximarse a una solución óptima. La segunda semejanza está
en su función, ambos muestrean regiones con las probabilidades más prometedoras
dónde puede estar una solución, una vez que completan su función se evalúa el mejor
resultado de cada una de las regiones candidatas. Ambos algoritmos tienen
particularidad de trabajar con el modelo de distribución de Boltzmann.
La segunda semejanza está en su procesamiento, pues antes de las 20,000 llamadas a
función ambos algoritmos muestran un progreso muy lento con respecto a otros
algoritmos. Sin embargo a las 45,000 llamadas a función BUMDA presenta un punto de
inflexión convergiendo en un punto de sub-óptimo y SEED se mueve en dirección
opuesta y acelera la convergencia hacia un mínimo óptimo. Eventualmente, después
de 100,000 llamadas a función BUMDA converge en un valor sub-óptimo, en este punto
SEED ya encontró una solución (en funciones más comunes de minimización).
Por último una semejanza importante entre estos algoritmos, que como mencionamos
su objetivo es aproximarse a un tipo de distribución de datos (Boltzmann), a través de
la distribución normal (Gaussiana) que como sabemos dos elementos importantes en
esta distribución son la media (µ) y la varianza (σ), pues en esta última reside la
semejanza.
Una notable diferencia entre ambos algoritmos esta es su propuesta hacia la
aproximación de dicha, pues la mayoría de los EDAs tratan de llegar a la distribución
de Boltzmann a través de la minimización de la función Kullback-Leibler Divergence
(KLD), este es el caso de BUMDA, mientras que SEED propone dicha aproximación a
través de la divergencia de Jeffrey (Jeffrey´s Divergence).
Otra diferencia entre estos algoritmos está en los parámetros de configuración del
algoritmo, pues en BUMDA necesita 1 solo parámetro (tamaño de la población).
Mientras en SEED, el artículo de referencia menciona que no requiere un control en los
parámetros por parte del usuario, el tamaño de la población puede ser configurado con
un valor predefinido empíricamente.