创建模型微调任务

前提条件

• 已订购大模型微调服务API在线调用-SFT局部调优，订购方法请参见购买AI原生应用引擎按需计费资源。
• 已具备格式为“对话文本”的微调数据集，具体请参考创建微调数据集或收藏预置微调数据集。
• 需要具备AI原生应用引擎管理员或开发者权限，权限申请操作请参见AppStage组织成员申请权限。

创建微调任务

1. 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型微调流水线”。

   对于平台预置的模型，也可以在左侧导航栏单击“资产中心”，将鼠标移至大模型卡片并单击“微调”，进入模型微调页面。

2. 在模型微调流水线页面，单击“创建微调任务”，选择“Functioncall能力增强微调”或“通用能力增强微调”。
   • Functioncall能力增强微调：具备Functioncall能力的模型能够识别并执行函数调用或API调用，通过功能调用微调数据集增强模型的扩展性。
   • 通用能力增强微调：广泛应用于各个领域，针对特定任务或行业需求，通过领域微调数据集增强模型领域能力。

3. 在创建微调任务页面，参照表1配置基础信息、模型及数据。

   表1 创建微调任务参数说明

   参数名称		参数说明
   基础信息	任务名称	自定义任务名称。支持英文、数字、中划线（-）、下划线（_），长度1-64个字符，仅支持字母或下划线开头。
   	任务描述(可选)	自定义任务相关的描述。
   模型配置	微调前模型	在下拉列表中选择微调的模型或平台预置的模型。
   	训练模式	默认为“LoRA”。 LoRA（Low-Rank Adaptation，低秩适应），是一种将预训练模型权重冻结，并将可训练的秩分解矩阵注入Transformer架构每一层的技术，该技术可减少下游任务的可训练参数数量。
   	微调后名称	自定义模型微调后的新名称。支持英文、数字、中划线（-）、下划线（_），长度1-64个字符，仅支持字母或下划线开头。
   数据配置	选择微调数据集	单击“选择微调数据集”，选择“我创建的”或“我收藏的”数据集。
   任务配置	资源池	选择执行任务的资源池，在下拉列表可以看到各资源池的可用卡数，根据实际情况选择。

4. 单击“下一步”，分别参照表2和表3配置基础参数、LoRA参数。

   表2 基础参数配置说明

   参数英文名	参数中文名	参数说明
   global_bs	各设备batch size综合	表示多个设备上使用的总样本数量。
   num_train_epochs	训练epoch数	优化算法在完整训练数据集上的工作轮数。
   learning_rate	学习率	学习率是每一次迭代中梯度向损失函数最优解移动的步长。
   weight_decay	权重衰减因子	对模型参数进行正则化的一种因子，可以缓解模型过拟合现象。
   warmup_ratio	学习率热启动比例	学习率热启动参数，一开始以较小的学习率去更新参数，然后再使用预设学习率，有效避免模型震荡。

   表3 LoRA参数配置说明

   参数英文名	参数中文名	参数说明
   lora_rank	秩	LoRA微调中的秩。
   lora_alpha	缩放系数	LoRA微调中的缩放系数。
   target_modules	LoRA微调层	LoRA微调的layer名关键字。 baichuan系列：down_proj,gate_proj,up_proj,W_pack,o_proj chatglm系列：dense_4h_to_h,dense_h_to_4h,dense,query_key_value

5. 单击“创建”。新创建的微调任务显示在任务列表中。

更多操作

创建微调任务完成后，可执行如表4所示的操作。