在ModelArts Studio(MaaS)配置模型服务接口地址时需要注意什么格式问题?
在大部分应用平台内配置模型服务接口地址时,需要去除URL尾部的/chat/completions路径。
正确示例:假设原始地址为https://example.com/v1/chat/completions,应简化为https://example.com/v1。
获取模型服务接口地址的操作步骤如下:
- 方式一:使用预置服务。
- 在ModelArts Studio(MaaS)控制台左侧导航栏,单击“在线推理”。
- 在“在线推理”页面的“预置服务”页签,按需选择以下操作。
- 使用免费服务:单击“免费服务”页签,在免费模型服务右侧的操作列,单击“调用说明”。
- 使用商用服务:单击“商用服务”页签,在已开通商用服务右侧的操作列,单击“调用说明”。
- 在“调用说明”页面,获取调用该服务所需要的模型服务接口地址。
- 方式二:使用我的服务。
- 在ModelArts Studio(MaaS)控制台左侧导航栏,单击“在线推理”。
- 在“在线推理”页面,单击“我的服务”页签。
- 在“状态”为“运行中”的模型服务右侧,单击操作列下的 。
- 在“调用说明”页面,获取调用该服务所需要的模型服务接口地址。