调试Agent应用
平台提供对Agent执行过程的全链路信息观测与调试调优,通过对信息的分层分析和展示,为开发者提供了AI应用在不同层级的运行情况指导和操作,提升观测和调试效率。通过Insight提供了Agent的运行和观测能力。创建并运行Agent后,可通过单击Insight查看该Agent的执行信息。当前仅支持对知识性应用进行观测和调试。
前提条件
已成功创建应用。
操作步骤
- 登录ModelArts Studio大模型开发平台,进入所需空间。
- 在左侧导航栏中选择“Agent开发”,将跳转至Agent开发平台。
- 单击左侧导航栏“工作台”,在“应用”页签,单击待调试的应用。单击应用右上侧的“调试详情”,进入调试详情页面。
- 在调试详情页面,单击,选择需要查看的信息。
- 单击“日志概览”页签。
- 单击“节点详情”页签。
- 单击调用链中的某个组件(例如插件天气搜索),展开调用链。
此外,平台支持配置构建应用所需的NLP大模型参数。
参数 |
说明 |
---|---|
模型选择 |
选择要使用的LLM,不同的模型效果存在差异。 |
模式选择 |
用于配置大模型的输出多样性。 包含取值:
|
温度 |
用于控制生成结果的随机性,取值范围0-1。
在基于事实的问答场景,可以使用较低的回复随机性数值,以获得更真实和简洁的答案;在创造性的任务例如小说创作,可以适当调高回复随机性数值。建议不要与核采样同时调整。 |
核采样 |
模型在输出时会从概率最高的词汇开始选择,直到这些词汇的总概率累积达到核采样值。核采样值可以限制模型选择这些高概率的词汇,从而控制输出内容的多样性,取值范围0-1。 建议不要与温度同时调整。 |