Descripción: La ‘Mejora Esperada’ es un concepto fundamental en la optimización bayesiana, utilizado para guiar el proceso de muestreo en la búsqueda de los mejores hiperparámetros para modelos de aprendizaje automático. Este criterio se basa en la idea de que, al evaluar diferentes configuraciones de hiperparámetros, se puede estimar la ganancia esperada que se obtendría al seleccionar una opción particular. En esencia, la mejora esperada mide cuánto se espera que mejore el rendimiento del modelo si se elige un conjunto específico de hiperparámetros en comparación con el mejor rendimiento observado hasta el momento. Este enfoque permite a los investigadores y desarrolladores tomar decisiones informadas sobre dónde realizar nuevas evaluaciones, maximizando así la eficiencia del proceso de optimización. La mejora esperada se calcula considerando tanto la media como la varianza de la función objetivo, lo que permite equilibrar la exploración de nuevas áreas del espacio de hiperparámetros con la explotación de áreas que ya han demostrado ser prometedoras. Este equilibrio es crucial, ya que una exploración excesiva puede resultar en un uso ineficiente de recursos, mientras que una explotación excesiva puede llevar a perder oportunidades de encontrar configuraciones aún mejores. En resumen, la mejora esperada es una herramienta poderosa que ayuda a optimizar el rendimiento de modelos complejos mediante un enfoque sistemático y basado en la probabilidad.
