注册Agents
前提条件
- 该类商品的计费依赖商家填写的计费项解析字段返回的用量,部分特殊计费项如请求里的计费项解析字段:字节、字符数,则由Agents网关进行计算,请确认商品是否满足对接要求。
支持的计费项名称
支持的计费项解析字段
参数位置
备注
Tokens输入
- usage.prompt_tokens
- usage.input_tokens
- 自定义
response.body
/
Tokens输出
- usage.completion_tokens
- usage.output_tokens
- 自定义
response.body
/
图片数
- usage.image_count
- 自定义
response.body
/
视频时长(秒)
- usage.video_duration
- 自定义
response.body
/
语音时长(秒)
- transcripts.content_duration_in_milliseconds
- 自定义
response.body
/
字节数
- input
- 自定义
request.body
网关会自动统计计费项解析参数字符串的字节长度,作为用量上报
字符数
- input
- 自定义
request.body
网关会自动统计计费项解析参数字符串的字符长度(字符集编码:UTF-8),作为用量上报
- 发布API类商品前,商家需要先进行Agents注册,目前华为云云商店的Agents网关默认在华北-北京四,其他区域暂不支持。
- Agents对接规范、调用逻辑、签名、响应和计费请参考《Agents后端应用接口规则和计费说明》。
操作步骤
- 在“资产中心>Agents注册”中,点击Agents注册。
- 定义Agent后端信息,设置接口请求类型、Agents访问前缀、Agents访问路径、调用方式、后端超时时间、APP Key和APP Secret等信息,确认信息无误后,单击“下一步”。
- 协议类型:HTTPS、HTTP
- 接口请求类型:GET、POST
- Agent访问前缀:为域名格式,端口未指定则使用默认端口,协议为HTTP,端口使用80;协议为HTTPS,端口使用443。
- 获取Agent对外公开的访问地址后,则需先通过应用工具->生产地址管理菜单界面,添加生产地址,如:https://xx.yy.com。
- 将认证通过的地址去除协议类型内容,填写到此输入框内,如:xx.yy.com。
- 填写完成后,点击“校验后端服务”。
- 提示“校验成功”,即可说明该服务具备连通性。
- Agents访问路径:以/开头,不支持动态参数路径。
- 调用方式:流式、同步。
- 流式:是一种在数据处理、网络通信等场景中常用的技术,它允许数据以流的形式进行传输和处理。
- 同步:是一种程序执行的策略,其中调用函数或方法时会按照其编写的顺序,等待当前函数或方法执行完成后才继续执行后续的代码。
- 后端超时时间:支持最大300000ms
- 认证方式:APP Key和APP Secret、自主认证,认证方式请参考《Agents后端应用接口规则和计费说明》。
- 设置“计费参数”。
- 定义Agent基本信息:Agent名称、模型名称、描述。
- 定义Agent请求信息:请求路径。
- 该请求路径为客户购买后提供调用的接口URL,格式为:请求访问前缀/请求路径,例如:https://agentstore-mkt.myhuaweicloud.com/v1/aimodelservice/chat/completions
- 若需兼容openai接口规范,请以/xxx/xxx/chat/completions结尾
- 不允许与其他商家定义的请求路径重复
- 同商家的不同模型规格请求路径可相同,会根据body中model参数区分
- 接口路径(path)限制2至6段,例如:{company_name}/chat/completions
- 定义请求参数:入参、请求body内容。
- 定义返回结果示例。
- 点击右下方“完成”,即完成Agtens创建。
- 创建Agents后,需要进行“调测”。
- 调测成功后,并且业务处理与预期一致,才能进行发布商品上架,避免用户购买后无法使用。