¿Cuáles son las soluciones para el underfitting?

• Para un algoritmo, agregue más elementos de orden alto al modelo de regresión, mejore la profundidad del árbol de decisiones o aumente el número de capas ocultas y unidades ocultas de la red neuronal para aumentar la complejidad del modelo.
• Descartar el algoritmo original y utilizar un algoritmo o modelo más complejo. Por ejemplo, use la red neuronal para reemplazar la regresión lineal y use el bosque aleatorio para reemplazar el árbol de decisiones.

• La minería de características es muy importante. Específicamente, las características con capacidades de expresión fuertes pueden superar a un gran número de características con capacidades de expresión débiles.
• La calidad de las características es el enfoque.

• Para explorar características con capacidades de expresión sólidas, debe tener una comprensión profunda de los escenarios de datos y aplicaciones, que depende de la experiencia.

• Red neuronal: tasa de aprendizaje, tasa de atenuación de aprendizaje, número de capas ocultas, número de unidades en una capa oculta, parámetros β1 y β2 en el algoritmo de optimización de Adam y batch_size

• Otros algoritmos: número de árboles en el bosque aleatorio, número de clústeres en los medios de k y parámetro de regularización λ

Por lo general, el underfitting es causado por las capacidades débiles de aprendizaje de modelos. La adición de datos no puede aumentar significativamente el efecto del entrenamiento.

La regularización tiene como objetivo prevenir el overfitting del modelo. Si un modelo es underfitting en lugar de overfitting, reduzca el parámetro de regularización λ o quite directamente el elemento de regularización.