服务说明书
客户业务概述
需求场景与业务挑战
随着人工智能技术的快速发展,安平、交通、政府、互联网、电力、金融、教育等行业的客户普遍希望通过人工智能技术实现降本提效、优化管理的目标。然而,这些行业客户本身缺乏人工智能技术能力或能力较弱,在AI模型从规划到落地的全链路方面面临以下核心挑战:
| 需求类型 | 问题描述 |
|---|---|
| 企业AI转型需求 | 客户希望使用AI技术解决人工重复、单调、简单工作等业务问题,预算充足但缺乏AI模型能力建设的基础能力(如场景调研、数据工程、模型规划),需要从0到1做AI模型规划设计方案 |
| 能力建设需求 | 企业希望组建自己的专属训练、推理能力,但缺乏专业指导和最佳实践,需要外部专业团队帮助搭建AI能力 |
| 优化提升需求 | 已有AI应用但效果不佳,需要专业团队进行模型调优和方案重新设计 |
| 端到端AI解决方案 | 传统企业有AI场景诉求(问题场景较复杂且性能要求高,有更多定制化创新需求),但未配备AI专业人员进行业务数智化转型的深入规划 |
目标市场客户分类
| 目标市场客户 | 客户特点 | 策略关键点 |
|---|---|---|
| 第1类客户 | 有AI转型需求且有预算支持,需要做AI模型规划与设计方案 | 深入业务场景调研,输出AI模型规划与设计方案 |
| 第2类客户 | 已有AI应用但效果不佳,需要专业团队进行模型调优 | 评估现有模型与方案,提供调优建议和改进方案 |
| 第3类客户 | 有AI场景诉求但未配备AI专业人员,需要端到端服务 | 借助华为专业技术能力,提供规划设计到部署集成的一体化方案 |
客户面临的核心问题
客户所面临的核心问题是如何将人工智能技术与自身业务场景有效结合,实现从业务痛点识别到模型方案设计、模型训练调优、推理部署集成的端到端闭环。具体而言:
- 场景识别难:客户难以准确识别哪些业务场景适合AI技术应用,缺乏从业务价值角度评估AI可行性的能力
- 数据工程弱:客户缺乏数据获取、清洗、标注、评估的系统性方法论,影响模型训练质量
- 模型选型与调优难:面对众多模型架构和训练策略,客户难以做出科学合理的技术选型,已有模型效果不佳时缺乏调优能力
- 部署集成难:缺乏从模型到推理服务的部署架构设计、系统对接与运维管理经验,方案落地困难
AI模型规划与集成服务正是针对上述问题,由具备丰富模型规划设计经验的专家团队,提供从价值场景识别到方案设计、模型训练调优、部署架构规划及集成实施的全流程专业服务,全方位保障模型业务场景的精准识别与方案的高质量交付与落地。
业务方案
AI模型规划与集成服务基于华为云ModelArts平台,支持三方模型,总体方案思路为“调研先行、设计驱动、实施落地、集成贯通、价值闭环”,各环节前后衔接、逐层递进:
| L4.5子项 | 核心目标 | 核心交付 |
|---|---|---|
| AI模型规划与设计服务 | 精准识别业务价值场景,科学设计训推方案、微调方案与部署架构 | 《业务场景调研与需求分析报告》、《AI模型训练/推理方案设计报告》 |
| AI模型训练与调优服务 | 基于设计方案进行模型训练实施、效果调优与评测验证 | 《AI模型训练与调优结果报告》、《AI模型训练与调优开发手册及指导》 |
| AI模型部署与集成服务 | 将模型部署为推理服务,完成与业务系统的集成对接 | 《XXX项目三方模型部署与集成实施报告》 |
三环节衔接关系
| 对比维度 | AI模型规划与设计服务 | AI模型训练与调优服务 | AI模型部署集成服务 |
|---|---|---|---|
| 服务定位 | 需求分析、训推方案设计、微调方案设计、部署架构规划 | 模型训练实施、效果调优、评测验证 | 推理部署、系统对接 |
| 核心产出 | 调研报告、方案设计报告 | 训练完成的模型、调优报告、评测结果 | 推理服务 |
| 前置依赖 | 客户业务需求与数据 | 规划设计方案 | 规划设计方案 |
| 后续衔接 | 为实施服务提供方案输入 | 为部署集成提供可用模型和推理调优 | 完成AI能力落地闭环 |
服务描述
AI模型规划与集成服务是运用华为AI技术和模型构建经验,基于ModelArts平台,为客户提供AI模型训练与推理的咨询、分析、设计、实施调优及部署集成的一体化专业服务。结合客户的业务场景和模型需求,从需求分析到方案设计,从模型训练实施到推理部署集成,保证人工智能技术与客户业务场景进行有效结合,实现AI能力从规划到落地的端到端闭环。
本服务包含三个子服务:AI模型规划与设计服务、AI模型训练与调优服务、AI模型部署与集成服务,各子服务可独立购买或组合购买,可根据客户需求对服务项进行裁剪。
服务内容
- AI模型规划与设计服务 运用华为AI技术和模型构建经验,结合客户的业务场景和模型需求,为客户提供AI模型训练与推理的咨询、分析和设计服务。
服务规格
服务内容
适用场景
AI模型规划与设计服务-训练
训/推调研与需求分析:完成业务场景调研,明确客户业务痛点,输出基于ModelArts平台的需求分析报告/可行性分析报告。
客户需要从0到1进行AI模型训练方案规划的场景
训/推方案设计:指导客户获取数据,数据清洗,数据评估,基于客户需求痛点评估并筛选备选方案,完成基于ModelArts平台的训练技术方案(含微调方案设计,数据方案,测评方案和算力规划)。
客户需要科学的训练方案设计(含微调策略),降低实施风险的场景
AI模型规划与设计服务-推理
训/推调研与需求分析:完成业务场景调研,明确客户推理性能需求,输出基于ModelArts平台的需求分析报告/可行性分析报告。
客户需要推理场景调研与可行性分析的场景
训/推方案设计:基于客户需求痛点评估并筛选备选方案,完成基于ModelArts平台的推理技术方案。
客户需要科学的推理方案设计的场景
- AI模型训练与调优服务 在AI模型规划与设计服务的设计指导下,基于ModelArts平台提供三方模型微调训练与推理部署调优服务。本服务仅负责按方案执行训练与调优工作,训练结果以在规划服务中双方确认的性能指标为验收依据;调优工作以调优后双方确认的精度性能指标为依据。
服务规格
服务内容
适用场景
AI模型训练与调优服务-基础包
数据工程实施(数据质量校验,迭代≤6次、数据≤5000条样本)、模型训练实施、训练 Loss 观测(1次)、精度验证(1次)、服务验收、项目移交。
客户已有设计方案,需要专业团队执行LoRA/QLoRA微调训练的场景
AI模型训练与调优服务-增量包
在基础包基础上,新增数据工程实施(迭代+4次、数据+5000条样本)、模型训练实施、训练 Loss 观测(+1次)、精度验证(+1次)。
基础包训练效果需进一步迭代优化的场景
AI模型推理调优服务
性能数据采集、性能瓶颈识别、模型加速方案设计(量化等技术)、推理性能调优(内存通信调度优化)、性能验证、精度验证、服务验收、项目移交。
客户已有推理服务但性能不足,需要专业团队进行推理调优的场景
- AI模型部署与集成服务 将客户需求三方的模型通过ModelArts平台部署为可用的在线推理服务,支撑在线推理API与客户业务系统的集成对接,实现AI能力的最终落地。
服务规格
服务内容
适用场景
部署集成服务
推理服务部署:根据方案完成模型部署。根据ModelArts平台技术方案,开发推理脚本和制作不同部署设备的推理镜像并完成部署,指导客户完成推理服务API跟业务系统对接。
客户需要将模型部署为推理服务的场景
服务范围
- 服务覆盖范围
华为面向各行业AI应用的开发与研究,基于ModelArts平台提供以下专业服务,针对客户不同阶段的需求,能够针对客户的业务场景为企业提供从规划到落地的全流程服务:
- AI模型规划与设计服务覆盖范围:
- 场景调研:完成业务场景调研,明确客户业务痛点与价值
- 需求分析:输出基于ModelArts平台的需求分析报告/可行性分析报告
- 训推方案设计:完成基于ModelArts平台的训练或推理技术方案(含微调方案设计),推理方案包含调优
- 算力底座设计:计算资源、存储资源、网络架构规划
- 账号与权限设计:ModelArts工作空间与账号权限体系设计
- 服务运维设计:训练与推理服务运维监控流程设计
- AI模型训练与调优服务覆盖范围:
- 数据工程实施:训练数据质量校验(基础包迭代≤6次/数据≤5000条样本,增量包+4次/+5000条样本)
- 模型训练实施:按设计方案进行模型构建及LoRA/QLoRA参数高效微调训练
- 训练Loss观测:观察Loss值是否稳定收敛(基础包1次,增量包+1次)
- 精度验证:对实际业务数据进行评测(基础包1次,增量包+1次)
- 推理性能调优:性能数据采集、性能瓶颈识别、模型加速方案设计(量化技术)、推理性能调优(内存通信调度优化)
- 推理性能与精度验证:推理吞吐/时延性能验证、推理精度验证
- 服务验收与项目移交:基于模型精度/性能数据完成验收,知识转移与培训
- AI模型部署集成服务覆盖范围:
华为云将基于AI平台,结合客户业务场景,提供专业的AI模型部署与集成服务,帮助客户端到端的完成准备部署环境、开发推理脚本和制作不同部署设备的推理镜像并完成部署,并指导客户客户完成算法API跟业务系统对接。
- 推理服务部署:部署环境准备、模型权重准备、部署镜像制作、在线推理/批量推理服务部署
- 系统集成对接:推理服务API与客户业务系统对接
- 支持的三方模型范围:ModelArts支持的模型白名单范围内的三方模型
- AI模型规划与设计服务覆盖范围:
- 服务不覆盖范围
华为工程师只负责本服务说明书所载明的服务,提供不在服务范围内的服务需要额外付费。不在服务范围内的服务包括但不限于如下所示内容:
- 离开常驻工作地前往其它城市进行相关工作(注:可能涉及费用包含但不限于差旅费、住宿费、附加通讯费等)
- 应客户要求超出正常工作日和工作时间的相关工作(注:涉及加班工资和补助)
- 外购件产品
- 客户自有业务系统的开发与维护(不包含AI推理服务对接部分)
- 第三方软件或组件的架构方案设计(不包含与ModelArts平台对接部分)
- 数据采集与标注的劳务外包服务(本服务仅提供数据方案设计与指导,不代客户采集和标注数据)
- AI模型规划与设计方案与定制化开发(由AI模型规划与设计服务提供,训练与调优服务仅负责按方案执行,不保证训练结果与调优结果)
- 不在ModelArts兼容性列表范围内的模型部署与集成
服务流程
- 总体服务流程 AI模型规划与集成服务的总体流程为“服务申请→场景调研→需求评估→方案设计→方案确认→服务实施→部署集成→服务验收”,各子服务在总体流程框架下有各自的重点环节:
服务阶段
里程碑说明
服务申请
客户提出服务申请,华为云评估客户需求并协调AI专家
场景调研
需求沟通与细化,调研客户业务场景、基础设施与模型要求
需求评估
与客户对标,确认本次服务的业务目标及业务范围
方案设计
基于客户需求,进行训推方案、微调方案与部署架构的规划设计,若推理包含调优方案设计
方案确认
与客户沟通规划设计方案,客户认可并下单
服务实施
基于方案进行模型训练实施、效果调优与评测验证
部署集成
将模型部署为推理服务,完成与业务系统的集成对接
服务验收
完成服务交付与实施,与客户对标并达成一致
- AI模型规划与设计服务流程
服务阶段
里程碑说明
训推场景需求调研
对客户的训推场景、实际业务场景和模型技术实现等相关需求进行调研(需求分类、业务场景、模型要求、AI框架、约束条件)
基础设施调研与规划
对客户现有基础设施(算力资源、网络架构、存储架构等)进行调研,识别底座硬件资源的潜在风险和需求;根据需求从基础设施层、框架层、模型层到应用层为客户规划场景解决方案
场景分析与模型评估选型
对大模型进行能力矩阵对齐、模型评估指标设计、模型能力测试与可行性评估,推荐符合客户业务场景的模型和性能测评方案设计
数据方案规划
明确场景建模所需的数据,数据采集、评估与验证、数据预处理、数据工程规划
训练方案设计
设计模型训练方案(含微调方案:微调训练路线、数据方案、模型方案、评测方案)
推理方案设计
设计模型推理部署及调优方案与推理验证方案
方案汇报与验收
《业务场景调研与需求分析报告》与《AI模型训练方案设计报告》或《AI模型推理方案设计报告》汇报通过,客户验证交付件内容并签字确认
- AI模型训练与调优服务流程
AI模型训练与调优服务包含微调训练与推理调优两个方向,各方向流程如下:
- 微调训练方向(基础包/增量包):
服务阶段
里程碑说明
数据工程实施
数据质量校验,确保训练数据符合设计方案要求(基础包:迭代≤6次、数据≤5000条样本;增量包:迭代+4次、数据不超过5000条样本)
模型训练实施
按设计方案进行模型构建及LoRA/QLoRA参数高效微调训练
训练Loss观测
通过大模型训练,观察Loss值是否稳定收敛,实施依据AI模型规划与设计服务的方案设计,训练效果以方案中双方确认的指标为准
精度验证
对实际业务数据进行评测,精准衡量模型在真实场景下的表现(基础包1次,增量包+1次)
服务验收
基于实施的数据,完成服务验收,完成《AI模型训练与调优开发手册及指导》编写
项目移交
知识转移、培训、后续优化及建议,签字确认《AI模型训练与调优结果报告》,相关交付件移交给客户
- 推理调优方向:
服务阶段
里程碑说明
性能数据采集
通过profiling工具精准采集模型推理的端到端性能数据
性能瓶颈识别
分析性能数据,精准定位推理性能瓶颈
模型加速方案设计
实施推理调优,降低精度损失的同时提升推理运行效率
推理性能调优
优化内存通信调度等调优技术,提升模型推理效率
性能验证
聚焦推理吞吐、时延等关键性能指标,全面评估运行效率
精度验证
利用实际业务数据进行评测,确保推理精度满足业务要求
服务验收
在历史数据/实时业务数据中模型推理功能及性能评测通过
项目移交
知识转移、培训、后续优化及建议
- 微调训练方向(基础包/增量包):
- AI模型部署与集成服务流程
服务阶段
里程碑说明
环境准备
完成部署环境检查与安装、模型权重准备、以及推理镜像制作
模型推理部署
启动推理服务
部署验证
通过推理服务基本功能测试
客户业务集成
协助客户完成业务系统对接支持,提供模型调用示例
验收移交
客户验证交付件中的内容事项,签字确认《AI模型部署与集成服务验收报告》,相关交付件移交给客户
服务交付件
- AI模型规划与设计服务
服务规格
交付件
验收报告
AI模型规划与设计服务-训练
《业务场景调研与需求分析报告》
《AI模型规划与集成服务验收报告》
AI模型规划与设计服务-训练
《AI模型训练方案设计报告》
《AI模型规划与集成服务验收报告》
AI模型规划与设计服务-推理
《业务场景调研与需求分析报告》
《AI模型规划与集成服务验收报告》
AI模型规划与设计服务-推理
《AI模型推理方案设计报告》
《AI模型规划与集成服务验收报告》
- AI模型训练与调优服务
服务规格
交付件
验收报告
AI模型训练与调优服务-基础包
《AI模型训练与调优开发手册及指导》《AI模型训练与调优结果报告》
《AI模型训练与调优服务验收报告》
AI模型训练与调优服务-增量包
《AI模型训练与调优开发手册及指导》《AI模型训练与调优结果报告》
《AI模型训练与调优服务验收报告》
AI模型推理调优服务
《AI模型推理调优开发使用手册》《AI模型推理调优结果报告》
《AI模型训练与调优服务验收报告》
- AI模型部署与集成服务
服务规格
交付件
验收报告
AI模型部署与集成服务
《XXX项目三方模型部署与集成实施报告》
《AI模型部署与集成服务验收报告》
最终交付件根据具体项目在制定计划时与客户商定。
责任矩阵
- 共同责任
- 双方商定并确认具体的业务需求及目标。
- 双方商定并确认项目管理计划。
- 双方商定并确认方案内容并评审。
- 完成合同签订。
- 华为责任
- 华为云需明确此次项目的负责人,因特殊情况导致华为人员变更,需要提前3个工作日知会客户,直至项目最终验收完成。
- 华为云得到客户授权后,授权数据仅限用于专业服务中涉及的服务内容,不得超出限定范围。
- 接收用户申请,协调ModelArts平台专家与客户商定现场/远程进行服务。
- 按照客户所选服务项,制定指导计划和报价清单供客户审核确认。
- 依确认后的计划为指定客户进行咨询和技术指导。
- 根据所选专业服务项,出具交付件清单。
- 客户责任
- 客户指派一位项目负责人协助华为云实施服务,此负责人应负责双方之协调及管理,负责审核、验收华为云提供的服务。
- 客户提供详细准确的需求和场景,以及业务场景需求。
- 客户提供项目实施的必须件,比如:训练数据等。
- 客户提供基础环境相关信息(包括但不限于应用架构、部署架构、资源数量和性能)。
- 客户审核并确认华为提供的方案设计和交付件。
- 客户执行项目验收。
- 责任分工矩阵表
R=责任方/Responsibility Party,S=协助方/Support
- AI模型规划与设计服务
序号
服务流程
工作内容
华为
客户
1
需求调研
需求理解与关键问题定义,需求确认,验收项确认
R
S
2
场景调研
训推场景需求调研、基础设施调研
R
S
3
模型选型
场景分析与模型评估选型
R
S
4
方案设计
数据方案设计;训练/推理方案设计
R
S
5
方案确认
场景建模分析、设计方案确认
R
R
6
服务验收
客户验收技术方案
S
R
7
项目移交
交付件整理与交接
R
S
- AI模型训练与调优服务
- 微调训练方向(基础包/增量包):
序号
服务流程
工作内容
华为
客户
1
数据工程实施
数据质量校验
R
S
2
模型训练实施
模型构建及LoRA/QLoRA微调训练
R
S
3
训练Loss观测
观察Loss值是否稳定收敛
R
S
4
精度验证
对实际业务数据进行评测
R
S
5
验收确认
客户验收模型效果与交付件
S
R
6
项目移交
交付件整理与交接
R
S
- 推理调优方向:
序号
服务流程
工作内容
华为
客户
1
性能数据采集
通过profiling工具采集推理性能数据
R
S
2
性能瓶颈识别
分析性能数据,定位推理性能瓶颈
R
S
3
模型加速方案设计
采用量化等技术设计加速方案
R
S
4
推理性能调优
优化内存通信调度等,提升推理效率
R
S
5
性能验证
推理吞吐/时延性能验证
R
S
6
精度验证
推理精度验证
R
S
7
验收确认
客户验收推理调优效果与交付件
S
R
8
项目移交
交付件整理与交接
R
S
- 微调训练方向(基础包/增量包):
- AI模型部署与集成服务
序号
服务流程
工作内容
华为
客户
1
环境准备
资源环境检查,部署环境安装,模型权重准备以及推理镜像制作
R
S
2
模型推理部署
配置推理参数、制作推理脚本和启动推理服务
R
S
3
部署验证
推理服务基本功能测试
R
S
4
客户业务集成
协助客户完成业务系统对接支持,提供模型调用示例
R
S
5
验收确认
客户验收推理服务可用性与集成效果
S
R
6
项目移交
交付件整理与交接
R
S
- AI模型规划与设计服务
验收标准
华为按各服务子项提交服务交付件章节所述标准交付件,客户在华为云官网Console点击确认验收,或线下签字盖章《AI模型规划与集成服务验收报告》作为服务验收通过依据。
- AI模型规划与设计服务
华为按各服务子项提交标准交付件(含《业务场景调研与需求分析报告》《AI模型训练方案设计报告》《AI模型推理方案设计报告》等),客户在华为云官网Console点击确认验收,或线下签字盖章《AI模型规划与集成服务验收报告》作为服务验收通过依据。
- AI模型训练与调优服务
华为按各服务子项提交标准交付件(含《AI模型训练与调优开发手册及指导》《AI模型训练与调优结果报告》《AI模型推理调优开发使用手册》《AI模型推理调优结果报告》等),客户在华为云官网Console点击确认验收,或线下签字盖章《AI模型训练与调优服务验收报告》作为服务验收通过依据。
- AI模型部署与集成服务
AI模型部署与集成服务按如下标准提交交付件,客户在华为云官网Console点击确认验收,或线下签字并盖章《XXX项目三方模型部署与集成实施报告》作为服务验收通过依据。
满足以下条件启动项目验收:1. 服务交付人员已提交对应档位必需交付件《XXX项目三方模型部署与集成实施报告》;2. 交付件内容已通过内部评审,且客户对交付结果无异议;3. 上述服务交付件提交后,客户应在3个工作日内进行验收确认,客户在华为云官网Console点击确认验收,或线下签字盖章《Ai模型部署与集成验收报告》,AI模型部署与集成服务工作结束。
验收流程
- 验收流程仅针对华为负责的文档类交付件。
- 交付件的验收以SOW中对交付件的描述和要求为准。
- 对交付件的验收应着重于对文档实质内容的验收,凡交付件实质内容符合本工作说明书约定的,应予通过验收和接受。少量格式、词汇、修饰等方面的不符不应被作为不验收的理由,但华为应就格式、词汇、修饰等方面的不符处按客户要求在合理的时间内进行修改。
- 乙方(华为)负责输出项目交付件并自检,合格后提交验收申请。
- 甲方(客户)对交付件进行评审,评审通过后在交付件上签字,若评审有问题,乙方根据评审意见进行整改,重新提交验收申请。
- 乙方收到评审意见后,应在【3】个工作日内完成对交付件的修改,并提交修改后的交付件给甲方验收。
- 甲方在收到乙方提交的交付件后,应在【3】个工作日内反馈意见给乙方,以上过程不应超过【3】次。如果乙方在交付件提交给甲方后的【3】个工作日内尚未收到甲方的书面反馈意见,则该轮提交的交付件将被视为已被甲方接受并作为最终版本验收通过。
免责条款及服务声明
- 客户应提前至少10个工作日申请该服务,以便华为云评估客户需求并协调AI专家。
- 禁止未进行项目分析及确定业务目标即承诺服务交付时间。
- 禁止在未进行项目分析前承诺客户所有需求。
- 需求变更风险:建立需求变更管理流程,任何方案变更需双方书面确认。
- 方案设计依赖客户数据质量,在需求调研阶段应充分评估数据可用性。
- 服务周期有限,超出人力基线的服务需求另计费用。