更新时间:2024-11-14 GMT+08:00
分享

MaaS使用场景和使用流程

ModelArts Studio大模型即服务平台(后续简称为MaaS服务),提供了简单易用的模型开发工具链,支持大模型定制开发,让模型应用与业务系统无缝衔接,降低企业AI落地的成本与难度。

当您第一次使用MaaS服务时,可以参考快速入门使用ModelArts Studio的Llama3.1-8B模型框架实现对话问答,了解如何在MaaS服务上的创建和部署模型。当您想更全面的了解MaaS服务的功能时,也可以参考最佳实践在ModelArts Studio基于Llama3-8B模型实现新闻自动分类

  • 仅“华东二”区域支持使用ModelArts Studio大模型即服务平台(MaaS)。
  • MaaS是白名单功能,如果有试用需求,请先申请权限

应用场景

ModelArts Studio大模型即服务平台(MaaS)的应用场景:

  • 业界主流开源大模型覆盖全

    MaaS集成了业界主流开源大模型,含Llama、Baichuan、Yi、Qwen模型系列,所有的模型均基于昇腾AI云服务进行全面适配和优化,使得精度和性能显著提升。开发者无需从零开始构建模型,只需选择合适的预训练模型进行微调或直接应用,减轻模型集成的负担。

  • 零代码、免配置、免调优模型开发

    平台结合与100+客户适配、调优开源大模型的行业实践经验,沉淀了大量适配昇腾,和调优推理参数的最佳实践。通过为客户提供一键式训练、自动超参调优等能力,和高度自动化的参数配置机制,使得模型优化过程不再依赖于手动尝试,显著缩短了从模型开发到部署的周期,确保了模型在各类应用场景下的高性能表现,让客户能够更加聚焦于业务逻辑与创新应用的设计。

  • 资源易获取,按需收费,按需扩缩,支撑故障快恢与断点续训

    企业在具体使用大模型接入企业应用系统的时候,不仅要考虑模型体验情况,还需要考虑模型具体的精度效果,和实际应用成本。

    MaaS提供灵活的模型开发能力,同时基于昇腾云的算力底座能力,提供了若干保障客户商业应用的关键能力。

    保障客户系统应用大模型的成本效率,按需收费,按需扩缩的灵活成本效益资源配置方案,有效避免了资源闲置与浪费,降低了进入AI领域的门槛。

    架构强调高可用性,多数据中心部署确保数据与任务备份,即使遭遇故障,也能无缝切换至备用系统,维持模型训练不中断,保护长期项目免受时间与资源损耗,确保进展与收益。

  • 大模型应用开发,帮助开发者快速构建智能Agents

    在企业中,项目级复杂任务通常需要理解任务并拆解成多个问题再进行决策,然后调用多个子系统去执行。MaaS基于多个优质昇腾云开源大模型,提供优质Prompt模板,让大模型准确理解业务意图,分解复杂任务,沉淀出丰富的多个智能Agent,帮助企业快速智能构建和部署大模型应用。

使用流程

表1 MaaS使用流程

步骤

操作

说明

相关文档

1

准备工作

在开始使用ModelArts Studio大模型即服务平台前,需要先准备好相关依赖资源,例如创建OBS桶、创建资源池等。

准备MaaS资源

2

模型创建

在ModelArts Studio大模型即服务平台的“模型广场”中选择大模型模板后,需要先创建自定义大模型,才能进行模型训练和推理,才能获得更适合特定领域或任务的大语言模型。

在MaaS中创建模型

3

模型调优

完成数据集的准备后,可以在ModelArts Studio大模型即服务平台开始模型调优。模型调优,即使用训练数据集和验证数据集训练模型。

使用MaaS调优模型

模型压缩

在ModelArts Studio大模型即服务平台支持对自定义模型进行模型压缩,以此提升推理服务性能、降低部署成本。

使用MaaS压缩模型

4

模型部署

ModelArts Studio大模型即服务平台支持将自定义模型部署到计算资源上,便于在“模型体验”或其他业务环境中可以调用该模型。

使用MaaS部署模型服务

5

模型体验

在ModelArts Studio大模型即服务平台完成模型部署后,可以“模型体验”调用该模型服务进行功能体验。

在MaaS体验模型服务

调用模型服务

在ModelArts Studio大模型即服务平台完成模型部署后,可以再其他业务环境中调用该模型服务进行预测。

调用MaaS部署的模型服务

免费体验预置服务

ModelArts Studio大模型即服务平台给新用户分配了每个模型100万Tokens的免费调用额度,无需部署即可一键体验通义千问、Llama、ChatGLM等预置模型服务。

免费体验MaaS预置服务

-

应用体验

ModelArts Studio大模型即服务平台提供了MaaS应用实践中心,为具体的应用场景提供一整套解决方案。

在MaaS应用实践中心查看应用解决方案

相关文档