更新时间:2024-12-18 GMT+08:00
开源模型怎么部署?
开源模型的部署需要购买推理单元,具体操作如下:
- 在AI原生应用引擎的左侧导航栏选择“资产中心”,选择“大模型”页签。
- 将鼠标光标移至待部署的开源模型卡片上,单击“部署”。
- 在“创建部署服务”页面,可以查看到需要几个推理单元,单击“购买推理单元资源”。
图1 创建部署服务
- 按照部署服务页面提示数量,购买推理单元包周期,具体操作请参见购买AppStage。
父主题: AI原生应用引擎