Descripción: La Unidad Lineal Exponencial (ELU) es una función de activación utilizada en redes neuronales que busca mejorar las características de aprendizaje al permitir valores negativos. A diferencia de funciones de activación tradicionales como ReLU (Rectified Linear Unit), que solo permite valores positivos, la ELU introduce una componente negativa que ayuda a mitigar el problema del ‘moribundo’ de las neuronas, donde algunas neuronas dejan de aprender completamente. La ELU se define matemáticamente como f(x) = x si x > 0, y f(x) = α * (exp(x) – 1) si x ≤ 0, donde α es un parámetro que controla la saturación de la función para valores negativos. Esta característica permite que la ELU mantenga una media cercana a cero, lo que puede acelerar el aprendizaje y mejorar la convergencia en comparación con otras funciones de activación. Además, la ELU es diferenciable en todos los puntos, lo que es crucial para el entrenamiento de redes neuronales mediante retropropagación. Su capacidad para manejar tanto valores positivos como negativos la convierte en una opción atractiva para arquitecturas de redes profundas, donde la diversidad en las activaciones puede ser beneficiosa para la representación de datos complejos.
