构建部署任务

平台支持部署训练后的模型或预置模型，操作步骤如下：

1. 登录ModelArts Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。
2. 在左侧导航栏中选择“模型开发 > 模型部署”，单击界面右上角“创建部署”。
3. 在“选择模型”页面，选择“我的资产 > 大语言模型 > 模型”，单击“确认”进入“创建部署”页面。
4. 在“创建部署”页面，参考表1完成部署参数设置。

   表1 NLP大模型部署参数说明

   参数分类	部署参数	参数说明
   部署配置	选择模型	可以修改如下信息： 来源：选择“我的资产”。 类型：选择“大语言模型”，并选择需要进行部署的模型。
   	最大TOKEN长度	本案例中选择32K。 模型推理的最大序列长度。
   	部署方式	本案例中选择“云上部署”。 支持“云上部署”和“边缘部署”，其中，云上部署指算法部署至平台提供的资源池中。边缘部署指算法部署至客户的边缘设备中（仅支持边缘部署的模型可配置边缘部署）。
   	自定义名称	本案例中不做修改。 此名称是通过V2版本推理接口调用该推理服务时的唯一标识。创建后不支持修改。
   安全护栏	安全护栏	本案例中选择开启安全护栏。 关闭：推理服务不调用安全护栏。 开启并同意授权：在使用推理服务时用户输入和模型输出均会调用盘古安全护栏，保障模型服务安全。
   资源配置（选择云上部署时）	计费模式	限时免费。
   	实例数	本案例中设置为1。 设置部署模型时所需的实例数。
   订阅提醒	订阅提醒	该功能开启后，系统将在任务状态更新时，通过短信或邮件将提醒发送给用户。
   基本信息	服务名称	设置部署任务的名称。
   	描述（选填）	设置部署任务的描述。

5. 参数填写完成后，单击“立即部署”。