更新时间:2024-08-29 GMT+08:00
什么情况下不建议微调
虽然微调可以在一定程度上提升领域能力,但有时候微调也无法解决所有问题。即使您的目标场景依赖垂域背景知识,微调也并非最佳方案,比如:
- 场景微调的数据量很少或者数据质量很差:微调对数据量和数据质量有很高的要求,需要使用高质量的数据进行模型训练。
- 垂域知识问答场景:通用模型本身已经具有在给定的一段或几段段落知识的场景下进行总结回答的能力。因此,如果您的场景是基于某个领域内的知识问答,那么采用微调的手段确实能从一定程度上提升效果,但如果综合考虑训练的耗时和模型后续的持续迭代,采用搜索+问答的方案则更具性价比。
父主题: 典型训练问题和优化策略