更新时间:2024-09-03 GMT+08:00
分享

部署边缘模型

  1. 进入盘古大模型套件平台,进入“模型开发 > 模型部署 > 边缘部署”,单击右上角“部署”按钮。

  2. 在创建部署页面选择模型与部署资产,选择部署方式为边缘部署,输入推理实例数(根据边缘资源池的实际资源选择),输入服务名称,单击“立即创建”。

  3. 创建成功后,可在“模型部署 > 边缘部署”,查看边缘部署列表。

  4. 单击“服务名称”可进入服务详情界面。

  5. 如果服务部署状态为“部署失败”,可单击服务操作列的“启动”按钮,重新部署。

相关文档