创建智能体运行时访问方式
智能体运行时的访问方式用于与已经部署好的智能体运行时进行通信和交互,可以通过创建的访问方式访问指定的智能体运行时版本,如未创建访问方式,则默认使用智能体运行时的Latest访问方式。
创建访问方式
- 在左侧导航栏选择“部署运行 > 智能体运行时 ”。
- 在列表单击已创建好的智能体运行时名称,进入智能体运行时详情页。
- 在“访问方式”区域,可查看系统已创建的Latest默认访问方式。
Latest默认访问无法编辑与修改,且“Latest访问方式”默认关联运行时的最新版本。
- 单击“创建访问方式”,参数配置请参考表1,配置完成后单击“确定”。
表1 参数配置 参数
说明
名称
访问方式名称。
命名规则:以字母开头,以字母或数字结尾,可以包含字母、数字和中划线,长度为2-48个字符。
系统会默认生成访问方式的名称,可根据需求自定义修改。
灰度策略
通过配置主要版本及次要版本的流量比例,实现新版本的小范围验证。
灰度策略开关:
- 已开启:表示灰度策略已经启用。启用后,可以根据配置的版本权重比例分配流量。至少2个版本才可启用灰度。
- 已关闭:表示灰度策略未启用。未启用时,所有流量将直接流向主要版本。
版本流量分配:
- 主要版本:选择当前主要运行的版本并配置流量。默认情况下,主要版本及次要版本流量占比各为50,可以通过单击“+”和“-”按钮来调整流量分配,主要版本和次要版本的流量占比之和为100。
- 次要版本:选择次要运行的版本并配置流量。次要版本通常用于测试新功能或新版本的稳定性,可以通过单击“+”和“-”按钮来调整流量分配。如果次要版本流量为0时,所有流量下发至主要版本。
流量分配预览:展示主要版本和次要版本的流量分配。
配置灰度策略并完成设置后,通过调用智能体运行时后,新建会话验证灰度环境。
版本
当未开启灰度策略时,选择需要交互的智能体运行时版本。
如智能体运行时版本有更新,可根据需求修改访问方式中的版本。
描述
输入对当前访问方式的描述,方便后续管理和维护。描述内容长度为0到255个字符,不能包含特殊字符如<、>。
标签
可选参数。
由“标签键”和“标签值”组成,用于标识和分类云资源。
您可以在TMS中创建预定义标签,用于使用同一标签标识多种云资源,创建后可在标签输入框下拉选择同一标签,具体操作请参考创建预定义标签,创建后单击
刷新。单击“添加标签”,选择在TMS中创建的预定义标签,或自定义输入标签键和标签值。
可添加一个或多个标签,最多添加20个标签。
- 使用已创建的访问方式。
详细请参考调用智能体运行时中的endpoint参数。
更多操作
访问方式创建完成后,您还可以执行如下操作。
| 操作 | 说明 |
|---|---|
| 编辑访问方式 |
|
| 删除访问方式 | Latest默认方式无法删除。
|