创建专业大模型部署任务
平台支持部署预置的专业大模型,操作步骤如下:
- 登录ModelArts Studio大模型开发平台,进入所需空间。
- 在左侧导航栏中选择“模型开发 > 模型部署”,单击界面右上角“创建部署”。
- 在“创建部署”页面,参考表1完成部署参数设置。
表1 专业大模型部署参数说明 参数分类
部署参数
参数说明
部署配置
模型来源
选择“盘古大模型”。
模型类型
选择“专业大模型 > BI专业大模型”或“专业大模型 > 搜索专业大模型”。
部署模型
在“从资产选模型”选择所需模型。
部署方式
云上部署:算法部署至平台提供的资源池中。
安全护栏
选择模式
安全护栏保障模型调用安全。
选择类型
当前支持安全护栏基础版,内置了默认的内容审核规则。
资源配置
计费模式
包年包月计费模式。
实例数
设置部署模型时所需的实例数。
订阅提醒
订阅提醒
该功能开启后,系统将在任务状态更新时,通过短信或邮件将提醒发送给用户。
基本信息
服务名称
设置部署任务的名称。
描述(选填)
设置部署任务的描述。
- 参数填写完成后,单击“立即部署”。