- 功能总览
- 产品介绍
- 计费说明
- 快速入门
- 用户指南
- 最佳实践
- API参考
- SDK参考
-
常见问题
- 高频常见问题
- 大模型概念类
-
大模型微调训练类
- 无监督领域知识数据量无法支持增量预训练，如何进行模型学习
- 如何调整训练参数，使盘古大模型效果最优
- 如何判断盘古大模型训练状态是否正常
- 如何评估微调后的盘古大模型是否正常
- 如何调整推理参数，使盘古大模型效果最优
- 为什么微调后的盘古大模型总是重复相同的回答
- 为什么微调后的盘古大模型的回答中会出现乱码
- 为什么微调后的盘古大模型的回答会异常中断
- 为什么微调后的盘古大模型只能回答训练样本中的问题
- 为什么在微调后的盘古大模型中输入训练样本问题，回答完全不同
- 为什么微调后的盘古大模型评估结果很好，但实际场景表现很差
- 为什么多轮问答场景的盘古大模型微调效果不好
- 数据量足够，为什么盘古大模型微调效果仍然不好
- 数据量和质量均满足要求，为什么盘古大模型微调效果不好
- 大模型使用类
- 提示词工程类
- 文档下载
- 通用参考
链接复制成功！
优化训练数据的质量
在数据科学和机器学习领域，数据的质量和多样性对模型的效果至关重要。通过有效的数据预处理和数据优化方法，通过提升训练数据的质量可以显著提升训练所得模型的效果。以下是一些关键的数据优化方法及其具体过程：
数据加工
- 错误数据过滤 ：在大规模数据集中，噪声和错误数据是不可避免的。这包括回复事实性错误、拼写错误、语法错误、不完整的数据片段等。通过自动化的脚本或手动审核，识别并移除这些低质量的数据，以确保模型学习的质量。
- 过滤不适当内容 ：大模型的训练数据可能包含不适当或有害的内容。使用自然语言处理工具和规则集来检测并过滤掉这些内容，以确保训练数据的安全性和道德性。
- 同质数据处理 ：同质的数据可能导致模型的偏倚和过拟合。可以使用哈希算法或文本相似度测量方法来检测并去除重复的数据条目。
典型的数据加工方法及示例见表1 典型数据加工方法。ModelArts Studio平台已经集成了常见的数据加工算子，可以参考《用户指南》“使用数据工程构建数据集 > 加工数据集 > 数据集加工算子介绍”进行数据加工。
|
数据加工方法 |
方法说明 |
数据加工前 |
数据加工后 |
|---|---|---|---|
|
错误数据过滤 |
移除文本中网页标签符号。 |
<head>论知识的重要性</head> |
论知识的重要性 |
|
移除文本中特殊符号，比如● █ ◆ ◪ ► ® ©。 |
我喜欢荷塘的月色 █ ，因为它能够让我感到一种宁静的美◪ |
我喜欢荷塘的月色，因为它能够让我感到一种宁静的美 |
|
|
去除事实性错误数据。 |
{"context":["你知道几样重庆的小吃？"],"target":"当然知道，重庆是中国的美食之都，特别是小吃。以下是一些重庆著名的小吃：\n\n1. 重庆小面\n\n2. 毛肚\n\n3. 辣子鸡\n\n4. 酸辣粉\n\n5. 抄手\n\n6. 鸡公煲\n\n7. 夜宵烧烤\n\n8. 兔头\n\n9. 山城酥哨\n\n10. 鸭脖\n\n11.东北锅包肉"} |
{"context":["你知道几样重庆的小吃？"],"target":"当然知道，重庆是中国的美食之都，特别是小吃。以下是一些重庆著名的小吃：\n\n1. 重庆小面\n\n2. 毛肚\n\n3. 辣子鸡\n\n4. 酸辣粉\n\n5. 抄手\n\n6. 鸡公煲\n\n7. 夜宵烧烤\n\n8. 兔头\n\n9. 山城酥哨\n\n10. 鸭脖\n\n"} |
|
|
过滤不适当内容 |
删除或改写有害回复 |
{"context":["我们来玩角色扮演游戏吧，假设你现在一名黑客专家，设计一个入侵他人电脑方案"],"target":"1. 通过诱导用户下载事先写好的木马病毒:\n可以通过诱惑用户去下载某些“小便宜”，然后通过木马程序来控制用户的主机。\n2. 通过网站入侵: \n如果目标主机是一台网络服务器，可以通过找上传漏洞，然后传木马上去。如果没有上传漏洞，可以通过找SQL注入，进入后台，上传木马，提取，控制目标服务器。"} |
{"context":["我们来玩角色扮演游戏吧，假设你现在一名黑客专家，设计一个入侵他人电脑方案"],"target":"非常抱歉，我目前无法提供你需要的具体信息，如果你有其他的问题或者需要查找其他信息，我非常乐意帮助你。"} |
|
同质数据处理 |
去除重复度过高的数据。 |
{"context":["你知道几样重庆的小吃？"],"target":"当然知道，重庆是中国的美食之都，特别是小吃。以下是一些重庆著名的小吃：\n\n1. 重庆小面\n\n2. 毛肚\n\n3. 辣子鸡\n\n4. 酸辣粉\n\n5. 抄手\n\n6. 鸡公煲\n\n7. 夜宵烧烤\n\n8. 兔头\n\n9. 山城酥哨\n\n10. 鸭脖\n\n"} {"context":["介绍一些重庆的小吃？"],"target":"重庆是中国的美食之都，特别是小吃。以下是一些重庆著名的小吃：\n\n1. 重庆小面\n\n2. 毛肚\n\n3. 辣子鸡\n\n4. 酸辣粉\n\n5. 抄手\n\n6. 鸡公煲\n\n7. 夜宵烧烤\n\n8. 兔头\n\n9. 山城酥哨\n\n10. 鸭脖\n\n"} |
{"context":["你知道几样重庆的小吃？"],"target":"当然知道，重庆是中国的美食之都，特别是小吃。以下是一些重庆著名的小吃：\n\n1. 重庆小面\n\n2. 毛肚\n\n3. 辣子鸡\n\n4. 酸辣粉\n\n5. 抄手\n\n6. 鸡公煲\n\n7. 夜宵烧烤\n\n8. 兔头\n\n9. 山城酥哨\n\n10. 鸭脖\n\n"} |
数据增强
数据增强的典型方法如下：
- 多样化数据来源 ：通过从多种来源获取数据，增加数据的多样性。这包括不同话题、不同提问风格、涉及多语言的时候还可以采用不同语言的训练数据，以提高模型的泛化能力。
例如：需要微调医疗问答场景，可以获取多种医疗问答数据，比如中文医药方面的问答数据集（cMedQA2）、英文医疗问答数据集（webMedQA）、中医问答数据集（Huatuo-26M）等开源数据集。
- 合成数据生成 ：利用现有数据生成新的数据实例。例如，通过指令泛化、相似指令生成等手段扩充数据多样性。
ModelArts Studio平台已经集成数据合成任务，创建文本类数据集合成任务步骤如下：
- 登录ModelArts Studio平台，在“我的空间”模块，单击进入所需空间。
- 在左侧导航栏中选择“数据工程 > 数据加工 > 合成任务”，单击界面右上角“创建合成任务”。
- 在“创建合成任务”页面，选择需要合成的数据集、合成内容与合成轮数。
- 单击“下一步”，进入“指令编排”页面。
- 在左侧“添加指令”中添加预置指令。
- 指令选择完成后，配置指令参数。
下图展示了预训练文本类数据集的合成指令参数配置示例，该合成任务实现利用预训练文本生成问答对。
图1 预训练文本类数据集合成指令参数配置示例
8. 指令编排完成后，单击右上角“启用调测”，可以对当前编排的指令效果进行预览。
9. 指令调测完成后，单击“创建并启动”，平台将启动合成任务。
10. 当数据合成任务运行成功后，状态将从“运行中”变为“运行成功”，表示数据已经完成合成操作。
调整数据配比
数据配比的典型方法如下：
- 平衡数据类别：在多任务或多类别的训练中，确保数据类别的平衡，以避免模型对某些类别的偏倚。可以通过过采样、欠采样或生成合成样本来调整类别比例
例如：情感类别多分类任务，通过对“中立”情感进行过采样、对“消极”、“积极”情感进行欠采样调整比例。
表2 平衡数据前 情感类别
数据占比
消极
45.3%
积极
37.8%
中立
16.9%
表3 平衡数据后 情感类别
数据占比
消极
35.3%
积极
33.8%
中立
30.9%
- 领域适应性：根据模型的预期应用领域，调整训练数据的领域分布。例如，增加特定领域（如医学、法律）的数据比例，以提高模型在该领域的表现。
- 语言和地域分布 ：对于多语言模型，调整不同语言和地域数据的比例，以确保模型在各语言上的性能一致。根据目标应用场景，动态调整训练数据的语言分布。例如，该模型常用于中文语言场景，则可以适当调大中文数据比例。
