更新时间:2024-12-03 GMT+08:00
分享

创建科学计算大模型部署任务

模型训练完成后,可以启动模型的部署操作。

  1. 登录ModelArts Studio大模型开发平台,进入所需空间。
  2. 在左侧导航栏中选择“模型开发 > 模型部署”,单击界面右上角“创建部署”。
  3. 在“创建部署”页面,模型类型选择“科学计算大模型”,参考表1完成部署参数设置,启动模型部署。
    表1 科学计算大模型部署参数说明

    参数分类

    部署参数

    参数说明

    部署配置

    模型来源

    选择“盘古大模型”。

    模型类型

    选择“科学计算大模型”。

    场景

    选择模型场景,分为“全球天气要素预测”、“全球中期降水预测”、“全球中期海洋智能预测”、“区域中期海洋智能预测”、“全球中期海洋生态智能预测”、“全球中期海量智能预测”。

    全球中期天气要素预测模型可以选择1个或者多个模型进行部署。

    如果使用全球中期降水预测模型,需要选择1个平台预置好的全球中期降水预测模型,并选择对应的全球中期天气要素预测模型。并且至少有一个中期天气要素模型时间分辨率要小于等于降水模型时间分辨率。

    部署模型

    在“从资产选模型”选择所需模型。

    部署方式

    云上部署:算法部署至平台提供的资源池中。

    边缘部署:算法部署至客户的边缘设备中。

    作业输入方式

    选择 “OBS”表示从OBS中读取数据。

    作业输出方式

    选择 “OBS”表示将输出结果存储在OBS中。

    作业配置参数

    设置模型部署参数信息,平台已给出默认值。

    架构类型

    算法所支持的结构类型,模型选择完成后,会自动适配架构类型。

    资源配置

    实例数

    设置部署模型是所需的实例数,单次部署服务时,部署实例个数建议不大于10,否则可能触发限流导致部署失败。

    基本信息

    名称

    设置部署任务的名称。

    描述(可选)

    设置部署任务的描述。

  4. 参数填写完成后,单击“立即部署”。

相关文档