- 最新动态
- 功能总览
- 产品介绍
- 计费说明
- 快速入门
- AppStage使用前准备
- AI原生应用引擎用户指南
- 开发中心用户指南
-
运维中心用户指南
- 运维中心简介
- 运维中心使用前准备
- 运维中心使用流程
- 进入运维中心
- 接入资源
- 部署应用
- 监控资源和应用
- 管理已纳管资源
- 管理运行时资源
- 管理工单
- 运营中心用户指南
- 最佳实践
- 开发指南
- API参考
- SDK参考
-
常见问题
- 权限管理
-
AI原生应用引擎
- 我创建的微调数据集会被其他用户调用去训练他们的大模型吗?
- 模型微调任务一直在等待中是什么原因?
- 大模型微调需要的数据有要求吗?
- AI原生应用引擎支持所有数据集进行数据标注吗?
- AI原生应用引擎中预置了哪些提示语?
- AI原生应用引擎训练好后的模型如何获取?
- 模型调测时,无法选择模型服务商API是什么原因?
- 我接入的模型需要满足什么要求才能在创建Agent时作为思考模型?
- Agent问答的时候报错“很抱歉,我的系统似乎遇到了一些故障问题,暂时无法为您提供服务”
- 自接入的模型在模型调测的时候报错是什么原因?
- 开源模型怎么部署?
- 平台有没有预置模型?
- 思考模型和问答模型的区别
- 工作流中知识库节点、LLM节点都需要配置实例,实例的API Key填什么?
- 工作流中工具节点的实例如何配置?
- 如何获取Agent发布时所需的API Key?
- 如何保证Agent每次问答都调用知识库?
- 工作流的返回是json格式,但是大模型会进行总结,如何以json格式直接输出?
- 如何在工作流中定制逻辑实现特定任务,比如时间格式转换、数组对象的push等
- 资产中心的工具怎么使用?
- Code代码节点的输入输出参数如何与其他节点进行交互和传递?
- Agent问答的时候没有回答
- 发布Agent的时候提示套餐校验失败
- 一站式创建Agent时如何取消选择默认模型,更换为其他模型
- 按照标题切分的时候,分段长度是什么意思?
- 工作流已启用,为什么在创建Agent时仍然无法选用?
- 如何通过调用Agent API将变量传递到工作流?
- 开发中心
- 运维中心部署服务
-
运维中心监控服务
- 如何查看EAP详细日志?
- 删除告警任务失败
- 告警后触发知识编排任务提示alert_type不存在
- 创建CES指标采集报错
- 如何卸载虚拟机上安装的filebeat?
-
异常检测Judge定时任务失败
- KeyError
- TypeError: not supported between instances of 'str' and 'float'
- TypeError("Cannot index by location index with a non-integer key")
- judge长时间处于SUBMIT状态直至失败
- fail to load model json
- judge日志无法查看,提示get request error
- judge日志大小1KB,且不刷新日志内容
- PSQLException: ERROR: invalid input syntax for type numeric
- PSQLException: ERROR: syntax error at or near
- too much null size
- judge_data_size(in):0
- ERROR - fail to load
- canceling statement due to user request
- 保存异常检测告警配置时报错
- 运维中心弹性资源服务
- 运维中心弹性网络服务
- 运维中心主机管理服务
- 运维中心微服务平台
-
运维中心负载均衡
-
SLB同步异常相关问题
- SSL_do_handshake() failed
- test nginx: nginx: [emerg] host not found in upstream "后端服务器名称" in /.../server...conf:17 nginx: .../nginx.conf test failed [FAILED
- no "ssl_certificate" is defined for the "listen ... ssl""
- no such file or directory......./ssl/dummy.pem
- test nginx: nginx: [alert] mmap(MAP_ANON|MAP_SHARED, 524288000) failed (12: Cannot allocate memory) nginx: [alert] munmap(FFFFFFFFFFFFFFFF, 524288000) failed
- duplicate value "error" in /opt/huawei/openresty/nginx/.../xxx.conf:40
- SLB同步检查不一致
- SLB一直同步,心跳异常
-
SLB部署失败相关问题
- FATAL Can't get local ip
- /etc/rc.d/init.d/functions: No such file or directory
- nginx is stopped
- will_upgrade\old_version:1.4.7
- Need to modify /etc/hosts,but no permission.
- system param fs.nr_open should not less than fs.file-max”or“system param net.ipv4.ip_local_port_range should >=30000
- some permission denied files in /opt/huawei/openresty/nginx/conf/
- Permission denied: '/opt/huawei/release/lf_test/SLB/
- install_slb_failed for /opt/huawei/openresty exists not for slb
- not all conf included in vhosts or slb_conf
- watchdog still running
- job 28e7241e42904334b failed
- [Service proxy.apply_sudo._wrapped_f]: fail to operator sudo,message: send request fail, status code: 400, error: None, message: illegal param\",\"status\":-2}
- some html not in /opt/huawei/openresty/nginx/html
- cannot access /opt/huawei/openresty/nginx/conf/ssl/sample/resty-auto-ssl-fallback.pem.Permission denined
- fail to operator sudo, message: send request fail, status code: 400, task: control sudo permission, status: failed
- some certificate not in /opt/huawei/openresty/nginx/conf/ssl
- crontab -l \n+ echo 'Permission denied crontab'
- 资源间绑定服务不一致
-
SLB同步异常相关问题
- 运维中心数据库治理
- 运维中心访问凭据管理服务
- 运营中心
- 管理控制台用户指南(即将下线)
- 业务控制台用户指南(即将下线)
-
运行时引擎用户指南(即将下线)
- AppStage运行时引擎简介
- AppStage运行时引擎使用前准备
- 进入AppStage运行时引擎
- 通过微服务平台管理微服务及相关资源
- 配置运行时引擎负载均衡
- 管理Cloud Map中的服务资源
- 配置运行时引擎数据库治理
- 配置访问凭据管理服务
- 文档下载
- 通用参考
链接复制成功!
创建并发布Agent
Agent指具备自主智能的AI实体应用,具有一定的智能和自主性,可以自主地发现问题、设定目标、构思策略、执行任务等。
平台在资产中心预置了部分AI应用,同时也支持用户创建Agent,当前支持创建LLM模式和工作流模式两种类型的Agent。
- LLM模式下,将准备好的模型服务、工具、工作流、知识库等编排成Agent,用户与大模型进行对话,由大模型决策并灵活调用工作流、知识库等,同时,该模式还支持使用平台自带的智能创建功能快速搭建应用。
- 工作流模式下,不支持添加工具、知识库等配置,用户与工作流进行对话,每次对话都会调用该工作流,这种模式一般适用于相对固定的场景,例如客户服务热线,Agent在接收到用户输入后,按照既定的流程响应处理,不需要进行复杂的分析和决策。
前提条件
需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。
创建Agent(LLM模式)
- 在AI原生应用引擎的左侧导航栏选择“Agent编排中心 > 我的Agent”,单击“创建Agent”。
- 默认弹出“Agent生成”对话框,可选择以下任一方式生成Agent应用。
- 方式一:由系统智能生成Agent,具体操作如下:
- 方式二:配置Agent相关参数信息,生成Agent,具体操作如下:
- 关闭“Agent生成”对话框,在“创建Agent”页面左上角选择“LLM模式(智能创建)”,参照表1配置基础信息、选择模型及设定角色。
表1 创建Agent参数说明 参数名称
参数说明
基础信息
设置Agent名称、描述信息。Agent名称不能以数字、下划线开头,不能包含特殊字符,长度2-19个字符。
您也可以先输入应用功能描述等信息,单击
后智能生成基础信息。
模型选择
- 方式一:选择思考模型和问答模型。
思考模型用于任务规划和选择组件,主要用于工作流、知识库、工具的调用,以及入参的识别传递等。
问答模型用于问答及总结。您可以结合资产中心大模型详情介绍进行模型选择和使用。- 输出最大token数:简称max_tokens,表示模型输出最大token数。
- 温度:简称temperature,较高的数值会使输出更加随机,而较低的数值会使其更加集中和确定。建议该参数和“多样性”(top_p)只设置1个。
- 多样性:简称top_p,影响输出文本的多样性,取值越大,生成文本的多样性越强。建议该参数和“温度”(temperature)只设置1个。
- 存在惩罚:简称presence_penalty,介于-2.0和2.0之间的数字。正值会尽量避免重复已经使用过的词语,更倾向于生成新词语。
- 频率惩罚:简称frequency_penalty,介于-2.0和2.0之间的数字。正值会尽量避免使用常见的单词和短语,更倾向于生成较少见的单词。
- 方式二:单击
由系统智能生成模型。
说明:
- 模型服务商API在调用前需要配置认证鉴权,具体介绍请参见如何对平台接入的第三方模型服务设置鉴权。
- 如果要选择“我接入的”模型API作为思考模型,需要在模型服务描述中填写“SupportFunctionCall,AdaptFunctionCall”进行适配,具体介绍请参见接入模型服务。
角色设定
输入希望角色完成的任务目标、具备的组件能力以及对输出答案的要求与限制等。
示例:
#角色设定
作为一个电影剧本创作助手,你的任务是协助编剧创作电影剧本,提供创作灵感和故事构思。
#组件能力
你具备智能生成电影剧本、提供创作灵感和故事构思的能力。
#要求与限制
- 输出内容的风格要求符合电影剧本的风格,具有吸引力和想象力。
- 输出结果的格式需按照电影剧本的标准格式进行,包括场景描述、对话、动作等。
- 输出内容的字数限制不超过5000字。
- 方式一:选择思考模型和问答模型。
- 参照表2可拓展性地添加技能、知识库、开场白以及输入推荐问题。
表2 拓展性能力参数说明 参数名称
参数说明
技能
工具
用于实现特定功能的模块或组件,添加工具可以使Agent具备更多能力,工具具体介绍请参见管理工具。
单击
,选择我创建的工具或系统预置的通用工具;单击
由系统智能生成工具。
资产中心预置的三方工具在调用前需要配置认证鉴权,具体介绍请参见调用资产中心工具前设置认证鉴权。
工作流
工作流体现的是一个具体的业务场景,通过一系列不同功能节点中的触发事件和执行动作编排而成,在创建Agent时调用,可以有效提高Agent开发的效率,工作流具体介绍请参见管理工作流。
单击,选择自创建的工作流,然后配置工作流模式:
- 总结模式:通过匹配模型对工作流的输出内容做进一步总结。
- 精确模式:直接返回工作流的输出内容,保证回答的准确度。
调用工作流时,如果提示所选的工作流中存在当前Agent没有的变量,是由于在工作流节点中添加了变量,需要以Agent中名称相同的变量值作为工作流的参数输入,但Agent中没有设置这些变量。请单击“查看详情”,在补充变量弹窗中,单击“补充所选变量”,在Agent中添加变量。
知识
知识库设置
单击
,设置如下参数:
- 自动调用:每一轮对话自动调用知识库,利用知识库召回内容辅助大模型生成回复内容。
- 按需调用:由大模型决策是否调用知识库,利用知识库召回内容辅助大模型生成回复内容。
- 最大召回数量:从检索结果中返回的内容片段数量,取值范围:0~10。
- 最小匹配度:知识库召回内容与检索需求匹配程度的最低阈值,用于确保召回内容具有一定的相关性,取值范围:0~1。
- 提示语内容:当调用方式为“自动调用”时,支持配置此参数。
将用户问题和知识库检索的内容通过提示语形式进行组装,提供给大模型,有助于大模型提供准确回答。
如果需要在提示语内容中对数据信息进行调用,需要在输入字段中包含{{query}}和{{context}},以这段输入为例:
A问B{{query}},B回答了{{context}}。
假如知识库数据中:context为月亮,query为李白的静夜思主题是什么?那提示语就能对该数据进行调用,得出:
A问B 李白的静夜思主题是什么?
B回答了 月亮
知识库
单击
,在“添加知识库”对话框中的下拉列表选择现有知识库,单击“确认”;单击
由系统智能生成知识库。
知识检索流
知识检索流作为知识库检索工具,基于意图识别、Query改写、Query拆解、召回和重排序等,支持可视化RAG检索编排,可以优化知识检索过程,提升用户体验和Agent响应质量。
单击
,在“知识检索流”弹框中选择知识检索流。
记忆
变量
变量用来存储用户的某一行为或偏好,在对话过程中,会自动识别与变量匹配的内容,并存储在变量中。
- 单击“变量”参数后面的
,弹出“编辑变量”页面。
- 单击“添加一般变量”,输入字段名、默认值、描述。例如:字段名为“职业”,默认值为“医生”。
一般变量可用于存储Agent记忆信息,有助于Agent生成个性化回答,同时也可以作为工作流的输入参数。
- 单击“添加敏感变量”,输入字段名、描述。
敏感变量仅支持作为工作流的输入参数,不会用于个性化回答,平台不会存储敏感变量的内容,可用于传输密码、密钥等敏感数据。
- 单击“保存”。
单击“变量”参数后面的
,可以查看、编辑变量最新值。
片段记忆
开启片段记忆开关,Agent可以形成对用户的个人记忆,提供个性化回复。
勾选“支持自动整合更新”,可以对片段记忆存储的信息进行自动整合和优化更新。
文件盒子
开启文件盒子开关,在Agent体验或使用过程中,可以上传pdf、docx、txt等纯文本文件,利用模型能力对文件进行解读、总结,并基于文件内容进行问答。
对话设置
开场白
可通过两种方式进行设置:
推荐问题
可通过两种方式进行设置:
- 单击
,在输入框输入推荐的问题语句。
- 单击
由系统智能生成推荐的问题语句。
语音设置
- 支持语音输入:开启后,支持使用语音输入问题。
- 支持语音输出:开启后,Agent以语音形式输出回答。
- 关闭“Agent生成”对话框,在“创建Agent”页面左上角选择“LLM模式(智能创建)”,参照表1配置基础信息、选择模型及设定角色。
- 在“Agent预览”区域单击“开始体验”,在对话输入框输入问题,按Enter键或单击
预览Agent效果。
- 单击对话输入框中的
,上传.wav、.mp4、.mp3格式文件或图片,可以对上传的音频文件或图片提问。
- 如果Agent开启了“支持语音输入”开关,您也可以单击对话输入框中的
,通过语音输入问题。
- 如果Agent使用配置变量的方式实现了记忆能力,在预览时,会自动识别对话与变量匹配的内容,自动更新变量取值,单击“Agent预览”区域右上角的“记忆 > 变量”,可以查看变量使用效果,修改变量取值可以手动更新Agent记忆信息。
- 如果Agent开启了“片段记忆”开关,在预览时,会自动识别并保留用户个性化信息,单击“Agent预览”区域右上角的“记忆 > 片段记忆”,可以查看片段记忆使用效果,单击记忆内容后面的
,修改记忆内容,可以手动更新Agent记忆信息。
- 如果Agent开启了文件盒子,执行如下操作进行体验:
- 单击“Agent预览”区域右上角的“记忆 > 文件盒子”,单击“上传文件”。
只支持pdf、docx、txt等纯文本文件,文件大小小于10M。
- 文件上传完成后,单击文件盒子列表操作列的
,引用文件。
- 在对话输入框对引用文件提问,Agent会根据输入问题对文件进行回答、总结。
- 单击“Agent预览”区域右上角的“记忆 > 文件盒子”,单击“上传文件”。
- 单击对话输入框中的
- 单击“保存”,完成Agent创建。
“我创建的”列表中生成一条Agent记录,Agent状态为“草稿”。
创建Agent(工作流模式)
- 在AI原生应用引擎的左侧导航栏选择“Agent编排中心 > 我的Agent”。
- 单击“创建Agent”,在页面左上角选择“工作流模式”。
- 在“创建Agent”页面,参照表3配置参数。
表3 创建Agent参数说明 参数名称
参数说明
基础信息
设置Agent名称、描述信息。Agent名称不能以数字、下划线开头,不能包含特殊字符,长度2-19个字符。
工作流配置
单击
,选择自创建的工作流。您也可以单击“创建工作流”,参考创建工作流创建新的工作流。
工作流模式的Agent只能绑定一个工作流,且此工作流的起始节点必须引入用户对话输入,即包含默认的WISEAGENT_USER_INPUT参数,表示以用户在问答对话中输入的内容作为工作流的请求参数,与Agent的每次对话都会对该工作流进行调用,具体介绍请参见起始节点。
WISEAGENT_VARIABLES和WISEAGENT_CONVERSATION为可选参数。
变量
变量用来存储用户的某一行为或偏好,在对话过程中,会自动识别与变量匹配的内容,并存储在变量中。- 单击“变量”参数后面的
,弹出“编辑变量”页面。
- 单击“添加一般变量”,输入字段名、默认值、描述。例如:字段名为“职业”,默认值为“医生”。
一般变量可作为记忆信息存储,有助于Agent生成个性化回答,同时也可以作为工作流的输入参数。
- 单击“添加敏感变量”,输入字段名、描述。
敏感变量仅支持作为工作流的输入参数,不会用于个性化回答。
- 单击“保存”。
单击“变量”参数后面的
,可以查看、编辑变量最新值。
开场白
在输入框自定义设置开场白语句。
示例:你好,我是差旅助手!我能为你规划行程、提供实时交通信息,助你出行无忧。请问有什么关于出行的问题我可以帮助你解答?
推荐问题
单击
,在输入框输入推荐的问题语句。
语音设置
- 支持语音输入:开启后,支持使用语音输入问题。
- 支持语音输出:开启后,Agent以语音形式输出回答。
- 单击“变量”参数后面的
- 在“Agent预览”区域单击“开始体验”,在对话输入框输入问题,按Enter键或单击
预览Agent效果。
- 单击对话输入框中的
,上传.wav、.mp4、.mp3格式的文件或图片,可以对上传的音频文件或图片提问。
- 如果Agent开启了“支持语音输入”开关,您也可以单击对话输入框中的
,通过语音输入问题。
- 如果Agent使用配置变量的方式实现了记忆能力,在预览时,会自动识别对话与变量匹配的内容,自动更新变量取值,单击“Agent预览”区域右上角的“记忆 > 变量”,可以查看变量使用效果,修改变量取值可以手动更新Agent记忆信息。
- 单击对话输入框中的
- 单击“保存”,完成Agent创建。
“我创建的”列表中生成一条Agent记录,Agent状态为“草稿”。
发布Agent
Agent发布后,用户即可通过API接口调用或Web界面进行访问。
- Agent创建完成后,在创建页面单击“发布”。
也可以在“我创建的”列表中,单击Agent列表操作列的“发布Agent”,进入发布页面。
- 选择发布渠道并设置发布密钥,单击“发布”。
表4 发布参数说明 参数
说明
选择发布渠道
- API:以API的方式发布Agent,发布成功后可复制API地址进行分享。
- Web UrI:以Web Url的方式发布Agent,发布成功后可复制Web链接进行分享。
设置发布密钥
设置该密钥是确保发布分享Agent后,用户能正常调用Agent相关联的模型、工具、工作流和知识库。
API Key:输入AI原生应用引擎平台API Key,获取方式请参见创建API Key。
部署资源
- 选择发布方式
- 免费额度:每个租户有3个免费额度,使用免费额度发布Agent运行速度相对缓慢。
- 运行时引擎SKU额度:请参见购买AI原生应用引擎进行订购,一个额度代表一个节点数量。
- 节点数量
- 使用免费额度发布,默认为单节点部署。
- 使用运行时引擎SKU额度发布,可选择多节点集群部署。
- 发布后,在Agent列表的“发布地址”列,单击
或
,复制发布地址进行分享。
更多操作
Agent创建完成后,可执行如表5所示操作。
操作 |
说明 |
---|---|
查看Agent详情 |
在“我创建的”Agent列表中单击Agent名称,进入Agent详情页面,可查看Agent的基础信息、Agent组成、接口信息以及对话日志等。您还可以导出用户反馈数据:
|
修改Agent参数 |
支持修改状态为“草稿”的Agent。 在“我创建的”Agent列表中,在“操作”列选择“更多 > 修改”,修改Agent配置参数。 |
取消发布Agent |
|
删除Agent |
对于已发布的Agent,可先取消发布再删除。
|
体验Agent |
我创建的Agent发布后,可以进行体验,具体介绍请参见体验Agent。 |