Optimización Bayesiana

La optimización bayesiana es un enfoque para optimizar las funciones objetivas que llevan
mucho tiempo (minutos u horas) para evaluar. Es el más adecuado para la optimización en
dominios continuos de menos de 20 dimensiones y tolera el ruido estocástico en las
evaluaciones de funciones.

Introducción
La optimización bayesiana (BayesOpt) es una clase de métodos de optimización basados en el
aprendizaje automático centrados resolución de problemas.

Max f (x),
x∈A
donde el conjunto factible y la función objetivo suelen tener las siguientes propiedades:

• La entrada x está en R d para un valor de d que no es demasiado grande. Típicamente d ≤ 20

en los más exitososaplicaciones de BayesOpt.

• El conjunto factible A es un conjunto simple, en el cual es fácil evaluar la membresía.

Típicamente A es un hiper-rectángulo {x ∈ R d : a i ≤ x i ≤ b i } o el d-dimensional simplex {x ∈ R
d : ∑ i x i = 1}. Luego (Sección 5 ) relajaremos esta suposición.

• La función objetivo f es continua. Esto normalmente será necesario para modelar f usando
gaussiano proceso de regresión.

• f es "costoso de evaluar" en el sentido de que el número de evaluaciones que se pueden

realizar es limitado, típicamente a unos pocos cientos. Esta limitación generalmente surge
porque cada evaluación toma una cantidad considerable de tiempo (generalmente horas),
pero también puede ocurrir porque cada evaluación lleva un costo monetario (por ejemplo,
por la compra de potencia de computación en la nube o la compra de materiales de
laboratorio) o un costo de oportunidad (por ejemplo, si evaluar f requiere hacer preguntas a
un sujeto humano quién tolera solo un número limitado de preguntas).

El objeto es: Nuestro enfoque es encontrar un óptimo global en lugar de local