更新时间:2025-01-05 GMT+08:00
分享

创建预测大模型部署任务

平台支持部署训练后的模型或预置模型,操作步骤如下:

  1. 登录ModelArts Studio大模型开发平台,在“我的空间”模块,单击进入所需空间。
  2. 在左侧导航栏中选择“模型开发 > 模型部署”,单击界面右上角“创建部署”。
  3. 在“创建部署”页面,参考表1完成部署参数设置。
    表1 预测大模型部署参数说明

    参数分类

    部署参数

    参数说明

    部署配置

    模型来源

    选择“盘古大模型”。

    模型类型

    选择“预测大模型”。

    部署模型

    选择需要进行部署的模型。

    部署方式

    选择“云上部署”。

    安全护栏

    选择模式

    安全护栏保障模型调用安全。

    选择类型

    当前支持安全护栏基础版,内置了默认的内容审核规则。

    资源配置

    计费模式

    包年包月计费模式。

    实例数

    设置部署模型时所需的实例数。

    订阅提醒

    订阅提醒

    该功能开启后,系统将在任务状态更新时,通过短信或邮件将提醒发送给用户。

    基本信息

    服务名称

    设置部署任务的名称。

    描述(选填)

    设置部署任务的描述。

  4. 参数填写完成后,单击“立即部署”。

相关文档