更新时间:2024-08-20 GMT+08:00
分享

准备工作

在使用ModelArts Studio大模型即服务平台使用MaaS服务时,需要先完成访问授权、OBS桶和资源池的准备工作。

准备OBS桶

在ModelArts Studio大模型即服务平台创建自定义模型、调优或压缩模型时,需要在对象存储服务OBS中创建OBS桶,用于存放模型权重文件、训练数据集或者是存放永久保存的日志。

创建OBS桶和上传文件的操作指导请参见OBS控制台快速入门

OBS桶必须和MaaS服务在同一个Region下,否则无法选择到该OBS路径。

准备资源池

在ModelArts Studio大模型即服务平台进行模型调优、压缩或部署时,需要选择资源池。MaaS服务支持专属资源池和公共资源池。

  • 专属资源池:专属资源池不与其他用户共享,资源更可控。在使用专属资源池之前,您需要先创建一个专属资源池,然后在AI开发过程中选择此专属资源池。MaaS服务可以使用在ModelArts Standard形态下创建的专属资源池用于模型训推。创建专属资源池的操作指导请参见创建资源池

    MaaS服务只支持使用驱动版本是23.0.5的专属资源池,其他版本会导致任务失败。当专属资源池的驱动版本不适配时,可以参考升级Standard专属资源池驱动升级驱动。

  • 公共资源池:公共资源池提供公共的大规模计算集群,根据用户作业参数分配使用,资源按作业隔离。MaaS服务可以使用ModelArts Standard形态下提供的公共资源池完成模型训推,按照使用量计费,方便快捷。选择公共资源池时,可以通过购买套餐包获取优惠的资源费用,请参见购买套餐包

资源池必须和MaaS服务在同一个Region下,否则无法选择到该资源池。

购买套餐包

MaaS服务提供了按需套餐包,用户可以提前购买按需套餐包,从而获得灵活的、更高性价比的算力资源。当购买了套餐包,在使用公共资源池运行任务时,将会优先抵扣套餐包的配额,超出当前套餐包的额度或使用时段,将自动转为按需收费。

关于套餐包的约束限制、资源包抵扣顺序和套餐包余量预警请参见套餐包

购买操作如下:

  1. 登录ModelArts管理控制台。
  2. 在左侧导航栏中,选择“ModelArts Studio”进入ModelArts Studio大模型即服务平台。
  3. 在ModelArts Studio首页单击“购买套餐包”,进入购买页面。
  4. 在购买页面,选择套餐包“规格”“购买数量”,单击“立即购买”,确认订单详情,单击“去支付”,根据界面提示完成套餐包支付。
  5. 支付完成后,在ModelArts Studio大模型即服务平台创建任务时,选择套餐包规格的公共资源池,在运行任务时既可优先使用套餐包资源。

相关文档