MaaS模型调优概述

模型调优是指在预训练大模型的基础上，使用特定领域或业务场景的高质量数据集对模型进行进一步训练，使模型更加精准地理解与生成符合业务需求的内容。MaaS提供全托管、低门槛的模型调优能力，帮助用户快速构建专属的大模型应用。

使用场景

领域知识增强：将法律、医疗、金融等垂直领域的专业知识注入模型，提升回答的专业性与准确性。

风格与格式定制：调整模型的输出语气、角色设定或回复格式，使模型符合品牌调性或特定产品形态。

任务能力优化：针对文本分类、信息抽取、代码生成、多轮对话等特定任务进行强化，使模型在目标任务上达到更高准确率。

多语言适配：在小语种或混合语言场景下，通过调优提升模型对特定语言的遵循和生成能力。

安全合规：在涉及政治、历史、社会、法律等高风险领域时，可能生成不符合中国法律法规或主流价值观的内容，存在安全合规风险。通过覆盖多类安全风险的高质量指令数据集进行训练，提升模型在政治安全、历史认知、社会伦理等维度上的合规表现。

模型调优计费说明

在MaaS进行模型调优时，会产生计算资源、存储资源等的累计值计费。计费详情请参考MaaS模型调优计费说明。

模型调优流程

MaaS将模型调优简化为以下五步，全程可视化引导：

图1 模型调优流程

表1 模型调优流程
操作	说明
准备模型训练数据集	按格式要求准备高质量对话或指令微调数据，并上传至对象存储服务。详情请参考调优数据集要求。
创建调优作业	选择支持模型微调的模型，指定调优类型、数据集；以及设置学习率、训练轮次、迭代步数等超参，或直接使用推荐的默认值。调优作业提交后自动完成资源申请、训练及保存。
部署调优后的模型	确认调优后的效果，可直接部署调优后的模型为我的服务。具体操作，请参见部署模型服务。
体验调优后的模型	调优后的模型部署成功后，可进行在线体验或API调用，根据体验效果评估调优效果。具体操作，请参见在MaaS体验文本对话和调用MaaS部署的模型服务。

支持模型微调的模型

支持模型微调的来源有两种，分别是预置模型和新创建的模型。表2列举了支持模型调优的模型，不在表格里的预置模型不支持使用MaaS调优模型。新创建的模型请参考我的模型。

表2 支持模型微调的预置模型
模型名称	全参微调	LoRA微调	增量预训练
GLM-4-9B	√	√	x
Qwen2.5-72B	√	√	x
Qwen2.5-32B	√	√	x
Qwen2.5-14B	√	√	√
Qwen2.5-7B	√	√	x
Qwen2.5-72B-1K	√	√	x
Qwen2.5-72B-8K	√	√	x

调优类型

MaaS提供以下主流调优类型，用户可根据场景需求灵活选择：

全参微调
直接在模型上训练，影响模型全量参数的微调训练，能够充分学习领域知识，效果较好，适合数据量充足且对效果要求极高的场景。但训练资源消耗较大，收敛速度较慢，训练时间较长。
LoRA微调
冻结原模型，通过往模型中加入额外的网络层，并只训练这些新增的网络层参数，效果接近或略差于全参训练。由于大幅减少训练参数量和显存占用，训练速度快、成本低，适合快速迭代和中小规模数据场景，效果接近全参微调。

增量预训练
在现有预训练模型基础上，利用新数据或特定领域的数据增强模型的能力和性能。允许模型逐步适应新的作业和数据，避免过拟合和欠拟合问题，进一步提高模型的泛化能力。增量预训练不会改变模型原始结构，而是通过在高质量数据上“追加学习”，使模型更贴合业务需求。

调优数据集要求

创建模型调优作业时，支持选择MOSS、Alpaca和ShareGPT这三种数据集格式。

MOSS：用于存储和交换机器学习模型数据的数据集格式，文件类型为JSONL。
Alpaca：用于训练语言模型的数据集格式，文件类型为JSONL。

ShareGPT：用于分享GPT模型对话结果的数据集格式，文件类型为JSONL。

请按数据集格式要求准备数据，否则会导致调优作业失败。
对于csv、xlsx文件类型的数据，平台会将其转为Alpaca格式或MOSS格式，具体请参见表3。
避免包含敏感个人信息与违规内容，确保符合相关法律法规。

表3 模型与数据集格式说明
模型	调优类型	数据集格式（JSONL）	数据集格式（xlsx和csv）
Qwen2.5-72B及其余模型系列（权重格式为Megatron的模型，具体请参见表5）	全参微调、LoRA微调	MOSS、Alpaca、ShareGPT	MOSS
Qwen2.5-7B、Qwen2.5-14B、Qwen2.5-32B、Qwen2.5-72B-1K	全参微调、LoRA微调	Alpaca、ShareGPT	Alpaca
Qwen2.5-14B	增量预训练	Alpaca	不支持

数据集格式示例如下：

MOSS数据集格式：JSONL格式。

MOSS数据集格式仅支持微调。

JSONL的一行数据就是数据集中的一条样本，建议总的数据样本不少于2000条。数据集示例如下，单轮对话也可以复用此格式。您可以单击下载，获取示例数据集“simple_moss.jsonl”，该数据集可以用于文本生成类型的模型调优。
```
{"conversation_id": 1, "chat": {"turn_1": {"Human":"text","MOSS":"text"},"turn_2": {"Human":"text","MOSS":"text"}}}
```
- "conversation_id"：样本编号。
- "chat"：多轮对话的内容。
- "turn_n"：表示是第n次对话，每次对话都有输入（对应Human角色）和输出（对应MOSS角色）。其中Human和MOSS仅用于角色区分，模型训练的内容只有text指代的文本。

Alpaca数据集格式。

微调：JSONL格式

{
  "instruction": "计算这些物品的数量之和。 ",
  "input": "输入：汽车 - 3，衣服 - 100，书 - 20。",
  "output": "汽车、衣服和书的数量之和为 3 + 100 + 20 = 123。"
}

增量预训练：

[
  {"text": "document"},
  {"text": "document"}
]

ShareGPT数据集格式。

ShareGPT数据集格式仅支持微调。
ShareGPT格式支持更多的角色种类，例如human、gpt、observation、function等。它们构成一个对象列表呈现在conversations列中。
注意：其中human和observation必须出现在奇数位置，gpt和function必须出现在偶数位置。

示例如下：

[
  {
    "conversations": [
      {
        "from": "human",
        "value": "human instruction"
      },
      {
        "from": "function_call",
        "value": "tool arguments"
      },
      {
        "from": "observation",
        "value": "tool result"
      },
      {
        "from": "gpt",
        "value": "model response"
      }
    ],
    "system": "system prompt (optional)",
    "tools": "tool description (optional)"
  }
]

csv、xlsx数据集格式。

csv和xlsx格式数据集仅支持微调。

表格里的一行数据就是一条样本。表格中仅有3个字段：conversation_id、human和assistant。
- conversation_id：对话ID，可以重复，但必须是正整数。如果有多组Human-assistant对话使用同一个ID，则会按照文件中的顺序，将这几组对话编排成一个多轮对话。
- human：对话输入，内容不能为空。
- assistant：对话输出，内容不能为空。
表4 表格示例

conversation_id

human

assistant

1

text

text