更新时间:2024-12-16 GMT+08:00
分享

免费体验MaaS预置服务

ModelArts Studio大模型即服务平台给新用户分配了每个模型100万Tokens的免费调用额度,无需部署即可一键体验通义千问、ChatGLM等预置模型服务。

  1. 登录ModelArts管理控制台。
  2. 在左侧导航栏中,选择“ModelArts Studio”进入ModelArts Studio大模型即服务平台。
  3. 在ModelArts Studio左侧导航栏中,选择“模型部署”进入服务列表。
  4. 选择“预置服务”页签。
  5. 领取免费调用额度。

    在预置服务列表,选择所需的服务,单击操作列的“领取”。当领取置灰时,表示该服务的免费额度已领取。

  6. 有以下两种方式免费体验预置服务。
    • “模型体验”页面进行推理。

      在预置服务列表,选择所需的服务,单击操作列的“体验”,跳转到“模型体验”页面,进行参数设置后,即可开始问答体验。操作指导请参见在MaaS体验模型服务

      当Tokens的免费调用额度使用完时,操作列的“体验”会置灰。

    • 在业务环境中调用模型服务的API进行推理。

      在预置服务列表,选择所需的服务,单击操作列的“更多 > 调用”,在调用弹窗中获取API地址和调用示例,在业务环境中调用API进行体验。操作指导请参见调用MaaS部署的模型服务

      • 预置服务默认启用内容审核,且调用页面不显示该参数。
      • 当调用模型服务的API,返回状态码“429 Too Many Requests”时,表示请求超过流控,请稍后重新调用。
  7. (可选)当免费Token额度用完后,还要继续使用该模型,建议部署为“我的服务”使用。
    1. 在预置服务列表,选择所需的服务,单击操作列的“更多 > 部署为我的服务”,跳转到“创建模型”页面。
    2. 在创建模型页面,完成参数配置,创建我的模型。操作指导请参见在MaaS中创建模型
    3. 当模型创建成功后,需要部署成模型服务,操作指导请参见使用MaaS部署模型服务
    4. 模型服务部署成功后,即可继续使用。

相关文档