编排应用
Agent平台支持为应用配置插件、工作流技能,支持接入知识库,还可增加应用的对话体验,详见创建与管理插件、编排工作流、创建与管理知识库。
应用编排流程见表1。
操作步骤 |
说明 |
---|---|
创建一个新应用。 |
|
在应用中配置大模型所需的Prompt。 |
|
为应用添加插件技能。 |
|
为应用添加工作流技能。 |
|
为应用添加知识库。 |
|
为应用配置优化体验,提升用户体验。 |
|
调试应用的各个模块,确保其功能和表现符合预期。 |

Agent应用支持的模型类型为NLP大模型。
步骤1:创建应用
创建应用步骤如下:
- 登录ModelArts Studio大模型开发平台,在“我的空间”模块,单击进入所需空间。
- 在左侧导航栏中选择“Agent开发”,跳转至Agent开发平台。
- 单击左侧导航栏“工作台”,在“应用”页签,单击右上角“创建应用”。
- 在“创建应用”页面,填写应用名称与应用描述,单击页面左下角的图片可修改应用图标,单击“确定”,进入应用编排页面。
图1 应用编排页面
步骤2:配置Prompt
创建应用后,需要撰写提示词(Prompt),为Agent设定人设、目标、核心技能、执行步骤。
应用会根据盘古NLP大模型对提示词的理解,来选择使用插件、工作流或知识库,响应用户问题。因此,一个好的提示词可以让模型更好地理解并执行任务,应用效果与提示词息息相关。
配置Prompt Builder步骤如下:
- 在“Prompt builder”模块,需要在输入框中填写Prompt提示词。
- 可依据模板填写Prompt,单击“示例”,输入框中将自动填入角色指令模板。
图2 Prompt builder
- 填写后可通过大模型进行优化,单击“智能优化”,在 “Prompt优化”窗口中单击“确定”。
图3 Prompt优化示例
步骤3:添加插件
应用支持添加插件技能,可添加“预置插件”和“个人插件”。添加插件可以为应用配备更多技能,建议插件数量不超过5个。
如果需要添加“个人插件”,请确保已完成创建插件操作。
添加插件的步骤如下:
- 在“技能 > 插件”模块,单击“添加”。
- 在“添加插件”窗口,选择预置插件或个人插件,单击
进行添加,再单击“确定”。
图4 添加插件 - 添加插件后,可在“技能 > 插件”中查看当前已添加的插件。
图5 已添加插件
步骤4:添加工作流
应用支持添加工作流技能。工作流支持通过画布编排的方式,使用插件、大模型等不同节点的组合,从而实现复杂、稳定的业务流程编排。
如果需要添加工作流,请确保已完成编排工作流操作。
添加工作流的步骤如下:
- 在“技能 > 工作流”模块,单击“添加”。
- 在“添加工作流”窗口,单击
进行添加,再单击“确定”。
图6 添加工作流 - 添加插件后,可在“技能 > 工作流”中查看当前已添加的工作流。
图7 已添加工作流
步骤5:添加知识库
应用支持添加知识库。发送消息时,应用能够引用知识库中的内容回答用户问题,当前仅支持关联1个知识库。
如果需要添加知识库,请确保已完成创建知识库操作。
添加知识库的步骤如下:
- 在“知识库”模块,单击“添加”。
- 在“添加知识库”窗口,单击
进行添加,再单击“确定”。
图8 添加知识库 - 添加知识库后,可在“知识库”中查看当前已添加的知识库。
图9 已添加知识库
步骤6:配置对话体验
应用支持配置对话体验功能,该功能可以提升用户与应用之间的互动质量和个性化体验,包括开场白、推荐问题与追问。
- 开场白:开场白是用户与应用进行首次交互时,应用主动向用户展示的一段内容。
- 推荐问题:推荐问题是用户首次与应用互动时,应用主动展示的一些问题或话题建议。
- 追问:在每轮回复后,默认根据对话内容提供提问建议。
配置对话体验的步骤如下:
步骤7:调试应用
创建应用后,平台支持对应用执行过程的进行预览与调试。
调试应用的步骤如下:
- 在页面右上角单击
,参考表2配置大模型参数。
表2 大模型参数配置 参数
说明
模型选择
选择要使用的大模型,不同的模型效果存在差异。
该模型需提前部署,步骤请参见创建NLP大模型部署任务。
模式选择
用于配置大模型的输出多样性。
包含取值:
- 精确的:模型的输出内容严格遵循指令要求,可能会反复讨论某个主题,或频繁出现相同词汇。
- 平衡的:平衡模型输出的随机性和准确性。
- 创意性的:模型输出内容更具多样性和创新性,某些场景下可能会偏离主旨。
- 自定义:自定义大模型输出的温度和核采样值,生成符合预期的输出。
温度
调高温度会使得模型的输出更多样性和创新性,反之,降低温度会使输出内容更加遵循指令要求但减少多样性,取值范围为0到1之间。
- 调高温度,会使得模型的输出更多样性和创新性。
- 降低温度,会使输出内容更加遵循指令要求但减少多样性。
在基于事实的问答场景,可以使用较低的回复随机性数值,以获得更真实和简洁的答案;在创造性的任务例如小说创作,可以适当调高回复随机性数值。建议不要与核采样同时调整。
核采样
模型在输出时会从概率最高的词汇开始选择,直到这些词汇的总概率累积达到核采样值。核采样值可以限制模型选择这些高概率的词汇,从而控制输出内容的多样性,取值范围为0.1到1之间。
- 在“预览调试”的左下角,选择是否开启“代码解释器”。
- 如果开启,应用将支持生成并运行Python代码来解决用户数据处理和分析、数据可视化、数学计算等方面的需求。
- 如果关闭,应用将不具备生成、运行代码的能力。
- 在右侧“预览调试”的文本框中输入对话,应用将根据对话生成相应的回答。
应用调试成功后,可执行后续的调用操作调用应用。