更新时间:2025-01-05 GMT+08:00
分享

创建专业大模型部署任务

平台支持部署预置的专业大模型,操作步骤如下:

  1. 登录ModelArts Studio大模型开发平台,进入所需空间。
  2. 在左侧导航栏中选择“模型开发 > 模型部署”,单击界面右上角“创建部署”。
  3. 在“创建部署”页面,参考表1完成部署参数设置。
    表1 专业大模型部署参数说明

    参数分类

    部署参数

    参数说明

    部署配置

    模型来源

    选择“盘古大模型”。

    模型类型

    选择“专业大模型 > BI专业大模型”或“专业大模型 > 搜索专业大模型”。

    部署模型

    在“从资产选模型”选择所需模型。

    部署方式

    云上部署:算法部署至平台提供的资源池中。

    安全护栏

    选择模式

    安全护栏保障模型调用安全。

    选择类型

    当前支持安全护栏基础版,内置了默认的内容审核规则。

    资源配置

    计费模式

    包年包月计费模式。

    实例数

    设置部署模型时所需的实例数。

    订阅提醒

    订阅提醒

    该功能开启后,系统将在任务状态更新时,通过短信或邮件将提醒发送给用户。

    基本信息

    服务名称

    设置部署任务的名称。

    描述(选填)

    设置部署任务的描述。

  4. 参数填写完成后,单击“立即部署”。

相关文档