更新时间:2026-03-13 GMT+08:00
分享

ModelArts LWS

简介

ModelArts LWS(LeaderWorkerSet)是一款开源大模型推理模型部署插件。它将一组Pod作为一个整体进行部署,可用于承载分布式推理任务,提供灵活的升级和恢复策略。

安装插件

创建专属资源池“作业类型”选择“模型部署”时,自动安装该插件。

组件说明

容器组件

说明

资源类型

modelarts-lws-controller-manager

LeaderWorkerSet是一款开源大模型推理模型部署插件。它将一组Pod 作为一个整体进行部署,可用于承载分布式推理任务,提供灵活的升级和恢复策略。

Deployment

版本记录

插件版本

更新特性

7.5.0

支持在专属资源池上使用ModelArts LWS插件。

相关文档