AI平台场景化建模调优服务

服务概述

AI平台开发与实施服务主要面向千行百业中有行业实际场景需求，并希望通过AI相关技术去解决这些需求的客户。华为云将基于AI平台，结合客户业务场景，提供专业的场景化建模调优服务及模型增训、蒸馏、微调服务，帮助用户解决算法开发难、模型优化难等关键痛点。通过购买本专业服务，用户可以在华为的帮助下建立完整的AI解决方案，依据自身需求快速完成端到端的AI场景建模、调优以及生态迁移。

服务内容

前提条件

• 客户应提前至少10工作日申请该服务，以便华为云评估客户需求并协调AI专家。
• 双方达成一致的服务目标，并完成合同签订。

服务范围

1. 服务覆盖范围

   华为面向各行业AI应用的开发与研究，提供AI平台开发与实施服务。针对客户不同阶段的需求，提供包括场景化模型调优、模型增训、模型微调、模型蒸馏的开发与实施服务。能够帮助企业快速集成AI平台能力到业务应用，针对计算机视觉、机器学习、NLP、决策优化等场景；工业质检、声音质检、工艺优化、零售识别、智能调度等行业，提供规划与设计服务，模型调优服务。提供应用&模型开发样例演示，模型&应用迁移等深度使用开发支持。

2. 服务不覆盖范围

   华为AI工程师只负责本工作说明书所载明的服务，提供不在服务范围内的服务需要额外付费。不在服务范围内的服务包括但不限于如下所示内容：

   • 应客户要求超出正常工作日和工作时间的相关工作（注：涉及加班工资和补助)。
   • 外购件产品。
   • 超出项目方案约定范围的客户业务相关的开发维护工作。
3. 服务区域

   海外（配套产品出海策略）。

服务流程

• AI平台场景化建模调优服务流程

  服务阶段	服务说明
  需求调研及评估	明确开发、部署、调优服务的需求范围及评估可行性。
  方案设计	进行开发、部署、调优服务方案设计。
  方案实施	实施场景化建模、部署、调优等方案。
  服务验收	客户验证交付件中的内容事项，签字确认《AI平台开发与实施服务验收报告》。
  项目移交	项目完成，相关交付件移交给客户。

  

• 模型蒸馏服务流程

  服务步骤	服务说明
  场景分析	分析客户业务场景、数据状况和模型基础，明确蒸馏目标和需求，确定模型输入输出、运行环境及性能要求。
  蒸馏方案设计	明确蒸馏目标与需求，确定模型输入输出、运行环境及性能要求，选择合适的学生模型，制定包含数据微调和强化学习的蒸馏策略。
  蒸馏数据实施	依照蒸馏方案，挑选领域和通用数据集，用行业数据生成种子数据，借助教师模型生成并优化教师数据，最后合理配比通用数据与教师数据，为模型蒸馏准备高质量数据。
  蒸馏方案实施	利用SFT、LoRA、RFT等技术微调模型，通过DPO、PPO、GPRO等强化学习方法优化模型性能，借助混合精度训练加速、模型量化等手段提升模型运行效率，完成模型优化与训练。
  蒸馏场景验证	对蒸馏后的学生模型进行全面端到端测试，与蒸馏前模型对比性能、吞吐量、时延和内存占用等指标，再将其置于实际业务场景，验证模型性能与业务指标的匹配度，确保蒸馏效果满足预期。
  服务验收	客户验证交付件中的内容事项，签字确认《模型蒸馏服务验收报告》。

  

• 模型增训服务流程

  服务步骤	服务说明
  增训方案设计	明确增训的合理性和可行性，明确训练数据、模型训练、模型评测方案细节。
  增训数据方案实施	数据获取，数据处理，数据评估，数据配比，数据安全保障。
  增训模型方案实施	进行环境准备工作，启动增训工作流，并提供精度和性能调优服务。
  增训场景验证	进行精度性能验证，模型评估，业务效果评估验证。
  验收	客户验证交付件中的内容事项，签字确认《DeepSeek模型增训服务验收报告》。
  移交	项目完成，相关交付件移交给客户。
  交付确认	确认交付件准确性和完整性，确认项目完成。

  

• 模型微调流程

  服务步骤	服务说明
  场景方案设计	根据客户业务需求和数据状况，选择合适的微调路线，如监督微调（SFT、LoRA、QLoRA）训练场景等。
  数据方案设计	针对不同的微调路线，设计相应的数据方案，包括数据的采集、标注、清洗、审核等步骤。
  模型方案设计	根据客户的需求和硬件资源情况，配置模型的超参数，如学习率、批量大小、训练轮数等。
  评测方案设计	构建评测数据集，包括从客户实际业务中抽取的具有代表性的样本。以及指定模型评测标准，用于评估模型效果。
  数据方案实施	数据采集：从客户的业务系统、数据库、日志文件等渠道采集相关数据。 数据标注：按照设计的指令格式与任务要求，对采集的数据进行标注。 数据清洗：去除重复、错误、无用的数据记录，处理缺失值等问题。 数据蒸馏：使用基于行业的Prompt数据从模型中获取答案，并将问题与答案构建为指令数据。 数据配比：根据客户行业数据的特点和模型训练的需求，确定行业数据与通用数据的配比。
  模型开发环境准备	确保有适当的硬件和软件环境。可以使用昇腾云服务平台获取计算资源。安装必要的依赖库和工具。
  模型微调训练	采用 SFT、LoRA、QLoRA 等微调训练方法，根据设计好的微调方案对模型进行训练。
  模型效果调优	在训练过程中，密切关注模型的损失值、准确率等指标的变化，及时调整训练参数和策略。
  微调场景验证	精度性能验证：验证模型训练吞吐等性能、训练 loss 是否收敛等指标。 模型评估验证：基于构建的评测集，客观评估模型打分结果。 业务效果验证：根据正确性、完整性、相关性、有效性、通顺性等标准，根据业务场景，主观对模型的生成结果或预测结果进行详细的评测。

  

• 模型微调流程——模型强化学习流程

  服务步骤	服务说明
  场景方案设计	根据已微调的模型效果和数据状况，选择合适的强化学习路线，如PPO、GRPO等。
  数据方案设计	针对强化路线，设计强化学习数据收集策略，确定如何收集和构建能够有效反映人类偏好的数据集。
  模型方案设计	奖励函数/奖励模型设计：评估基于模型生成回答的质量，用于辅助强化学习数据的标注，也为模型的学习提供准确的奖励信号。 根据客户的需求和硬件资源情况，配置模型的超参数，如学习率、批量大小、训练轮数等。
  评测方案设计	构建评测数据集，包括从客户实际业务中抽取的具有代表性的样本。以及指定模型评测标准，用于评估模型效果。
  数据方案实施	偏好数据标注：基于设计好的奖励函数/模型，组织人工或利用工具对数据进行偏好标注，符合预期的答案进行点赞，反之点否，对模型进行偏向性主动引导。
  模型开发环境准备	确保有适当的硬件和软件环境。可以使用昇腾云服务平台获取计算资源。安装必要的依赖库和工具。
  微调方案实施	运用PPO、GRPO等强化学习手段，结合设计好的奖励模型，对微调后的模型进行进一步的优化。
  微调场景验证	精度性能验证：验证模型训练吞吐等性能、训练 loss 是否收敛等指标。 模型评估验证：基于构建的评测集，客观评估模型打分结果。 业务效果验证：根据正确性、完整性、相关性、有效性、通顺性等标准，根据业务场景，主观对模型的生成结果或预测结果进行详细的评测。

  

服务交付件

责任矩阵

1. 共同责任
   • 双方商定并确认具体的业务需求及目标。
   • 双方商定并确认项目管理计划。
   • 双方商定并确认方案内容并评审。
   • 完成合同签订。
2. 华为责任
   • 华为云需明确此次项目的负责人，因特殊情况导致华为人员变更，需要提前3个工作日知会客户，直至项目最终验收完成。
   • 华为云得到客户授权后，授权数据仅限用于专业服务中涉及的服务内容，不得超出限定范围。
   • 咨询前，按照客户所选服务项，制定指导计划和报价清单供客户审核确认。
   • 咨询期间，依确认后的计划为指定客户进行技术指导。
   • 咨询结束后，根据所选咨询服务项，出具交付件清单。
   • 接收用户的服务申请，协调ModelArts平台专家与客户商定详情。
3. 客户责任
   • 提供详细准确的需求和场景。
   • 提供项目实施的必须件，比如：训练数据等。
   • 审核并确认华为提供的指导计划和交付件。
   • 执行项目验收。
4. 责任分工矩阵表
   • AI平台场景化建模调优服务

     以下为职责描述案例，可酌情修改; R=责任方/Responsibility S=协助方/Support 备注：如果是华为提供技术支持的服务内容，实施动作责任方为客户。性能调优的特殊性，导致调优方案设计与实施的顺序可能依据具体项目情况调整。
     序号	服务流程	工作内容	华为	客户
     1	需求提出	业务场景讲解，明确优化需求	S	R
     2	需求理解	需求理解与关键问题定义	R	S
     3	需求确认	需求确认，验收项确认（关键指标）	S	R
     4	方案设计	优化方案设计	R	S
     5	方案汇报	优化方案汇报	R	R
     6	方案确认	优化方案确认	S	R
     7	方案实施	优化方案实施	R	S
     8	方案验收	优化性能验收	S	R
     9	项目移交	交付件整理与交接	R	S
     10	交付确认	确认交付件准确性和完整性，确认项目完成	S	R

   • 模型微调服务

     以下为职责描述案例，可酌情修改; R=责任方/Responsibility S=协助方/Support 备注：如果是华为提供技术支持的服务内容，实施动作责任方为客户。
     序号	服务流程	工作内容	华为	客户
     1	微调方案设计	场景方案设计，数据方案设计，模型方案设计，评测方案设计	R	S
     2	数据方案实施	数据收集、数据标注、数据清洗、数据蒸馏、数据配比、偏好数据标注	R	R
     3	模型方案实施	环境准备、模型微调实施、模型强化学习、模型效果调优	R	S
     4	微调场景验证	精度性能验证、模型评估验证、业务效果验证	R	S
     5	服务验收	客户确认验收，并确认签字	S	R
     6	项目移交	交付件整理与交接	R	R
     7	交付确认	客户确认验收	S	R

   • 模型增训服务

     以下为职责描述案例，可酌情修改; R=责任方/Responsibility S=协助方/Support 备注：如果是华为提供技术支持的服务内容，实施动作责任方为客户。
     序号	服务流程	工作内容	华为	客户
     1	增训方案设计	场景分析，数据方案设计，模型方案设计，模型评测方案设计	R	S
     2	增训数据方案实施	数据提取与清洗、数据标注、数据评估、数据配比、数据安全保障	R	R
     3	增训模型方案实施	环境准备、模型增训实施、模型调优	R	S
     4	增训场景验证	精度性能验证、模型评估验证、业务效果验证	R	S
     5	服务验收	客户确认验收，并确认签字	S	R
     6	项目移交	交付件整理与交接	R	R
     7	交付确认	客户确认验收	S	R

   • 模型蒸馏服务

     以下为职责描述案例，可酌情修改; R=责任方/Responsibility S=协助方/Support 备注：如果是华为提供技术支持的服务内容，实施动作责任方为客户。
     序号	服务流程	工作内容	华为	客户
     1	蒸馏方案设计	业务场景进行分析，选择学生模型和训练策略	R	S
     2	蒸馏数据实施	进行数据集选型、种子数据生成、教师数据生成、数据配比	S	R
     3	蒸馏方案实施	对学生模型进行微调和强化学习	R	S
     4	蒸馏场景验证	针对蒸馏后的模型进行性能和业务指标验证	R	S
     5	方案验收	模型功能和性能验收	S	R
     6	项目移交	交付件整理与交接	R	S
     7	交付确认	确认交付件准确性和完整性，确认项目完成	S	R

验收标准