文档首页 > > 常见问题> 训练作业> 功能咨询>

欠拟合的解决方法有哪些?

欠拟合的解决方法有哪些?

分享
更新时间:2021/04/12 GMT+08:00
  1. 模型复杂化
    • 对同一个算法复杂化。例如回归模型添加更多的高次项,增加决策树的深度,增加神经网络的隐藏层数和隐藏单元数等。
    • 弃用原来的算法,使用一个更加复杂的算法或模型。例如用神经网络来替代线性回归,用随机森林来代替决策树
  2. 增加更多的特征,使输入数据具有更强的表达能力
    • 特征挖掘十分重要,尤其是具有强表达能力的特征,往往可以抵过大量的弱表达能力的特征。
    • 特征的数量往往并非重点,质量才是,总之强表达能力的特征最重要。
    • 能否挖掘出强表达能力的特征,还在于对数据本身以及具体应用场景的深刻理解,往往依赖于经验。
  3. 调整参数和超参数
    • 神经网络中:学习率、学习衰减率、隐藏层数、隐藏层的单元数、Adam优化算法中的β1和β2参数、batch_size数值等。
    • 其他算法中:随机森林的树数量,k-means中的cluster数,正则化参数λ等。
  4. 增加训练数据往往没有用

    欠拟合往往是因为模型的学习能力不足,一味地增加数据,训练效果并不明显。

  5. 降低正则化约束

    正则化约束是为了防止模型过拟合,如果模型压根不存在过拟合而是欠拟合了,那么就考虑是否降低正则化参数λ或者直接去除正则化项。

分享:

文档是否有解决您的问题?

提交成功!非常感谢您的反馈,我们会继续努力做到更好!
反馈提交失败,请稍后再试!

*必选

请至少选择或填写一项反馈信息

字符长度不能超过200

提交反馈 取消

如您有其它疑问,您也可以通过华为云社区论坛频道来与我们联系探讨

智能客服提问云社区提问