更新时间:2025-01-08 GMT+08:00
分享

编排应用

Agent平台支持为应用配置插件、工作流技能,支持接入知识库,还可增加应用的对话体验,详见创建与管理插件编排工作流创建与管理知识库

应用编排流程见表1

表1 应用编排流程

操作步骤

说明

步骤1:创建应用

创建一个新应用。

步骤2:配置Prompt

在应用中配置大模型所需的Prompt。

步骤3:添加插件

为应用添加插件技能。

步骤4:添加工作流

为应用添加工作流技能。

步骤5:添加知识库

为应用添加知识库。

步骤6:配置对话体验

为应用配置优化体验,提升用户体验。

步骤7:调试应用

调试应用的各个模块,确保其功能和表现符合预期。

Agent应用支持的模型类型为NLP大模型

步骤1:创建应用

创建应用步骤如下:

  1. 登录ModelArts Studio大模型开发平台,在“我的空间”模块,单击进入所需空间。
  2. 在左侧导航栏中选择“Agent开发”,跳转至Agent开发平台。
  3. 单击左侧导航栏“工作台”,在“应用”页签,单击右上角“创建应用”。
  4. 在“创建应用”页面,填写应用名称与应用描述,单击页面左下角的图片可修改应用图标,单击“确定”,进入应用编排页面。
    图1 应用编排页面

步骤2:配置Prompt

创建应用后,需要撰写提示词(Prompt),为Agent设定人设、目标、核心技能、执行步骤。

应用会根据盘古NLP大模型对提示词的理解,来选择使用插件、工作流或知识库,响应用户问题。因此,一个好的提示词可以让模型更好地理解并执行任务,应用效果与提示词息息相关。

配置Prompt Builder步骤如下:

  1. 在“Prompt builder”模块,需要在输入框中填写Prompt提示词。
  2. 可依据模板填写Prompt,单击“示例”,输入框中将自动填入角色指令模板。
    图2 Prompt builder
  3. 填写后可通过大模型进行优化,单击“智能优化”,在 “Prompt优化”窗口中单击“确定”。
    图3 Prompt优化示例

步骤3:添加插件

应用支持添加插件技能,可添加“预置插件”和“个人插件”。添加插件可以为应用配备更多技能,建议插件数量不超过5个。

如果需要添加“个人插件”,请确保已完成创建插件操作。

添加插件的步骤如下:

  1. 在“技能 > 插件”模块,单击“添加”。
  2. 在“添加插件”窗口,选择预置插件或个人插件,单击进行添加,再单击“确定”。
    图4 添加插件
  3. 添加插件后,可在“技能 > 插件”中查看当前已添加的插件。
    图5 已添加插件

步骤4:添加工作流

应用支持添加工作流技能。工作流支持通过画布编排的方式,使用插件、大模型等不同节点的组合,从而实现复杂、稳定的业务流程编排。

如果需要添加工作流,请确保已完成编排工作流操作。

添加工作流的步骤如下:

  1. 在“技能 > 工作流”模块,单击“添加”。
  2. 在“添加工作流”窗口,单击进行添加,再单击“确定”。
    图6 添加工作流
  3. 添加插件后,可在“技能 > 工作流”中查看当前已添加的工作流。
    图7 已添加工作流

步骤5:添加知识库

应用支持添加知识库。发送消息时,应用能够引用知识库中的内容回答用户问题,当前仅支持关联1个知识库。

如果需要添加知识库,请确保已完成创建知识库操作。

添加知识库的步骤如下:

  1. 在“知识库”模块,单击“添加”。
  2. 在“添加知识库”窗口,单击进行添加,再单击“确定”。
    图8 添加知识库
  3. 添加知识库后,可在“知识库”中查看当前已添加的知识库。
    图9 已添加知识库

步骤6:配置对话体验

应用支持配置对话体验功能,该功能可以提升用户与应用之间的互动质量和个性化体验,包括开场白、推荐问题与追问。

  • 开场白:开场白是用户与应用进行首次交互时,应用主动向用户展示的一段内容。
  • 推荐问题:推荐问题是用户首次与应用互动时,应用主动展示的一些问题或话题建议。
  • 追问:在每轮回复后,默认根据对话内容提供提问建议。

配置对话体验的步骤如下:

  1. 在“对话体验 > 开场白”中,可填写开场白,也可单击“智能添加 > 确定”智能添加开场白。

    例如,“您好!我是您的智能助手,很高兴为您提供帮助。请告诉我,今天有什么我可以为您做的吗?”

  2. 在“对话体验 > 推荐问题”中,可填写推荐问题,也可单击“智能添加 > 确定”智能添加推荐问题。推荐问题至多配置3条。

    例如,“请告诉我您需要什么帮助?如:帮我预定会议室、帮我查询天气预报。

  3. 在“对话体验 > 追问”中,可选择是否开启“追问”功能,若开启,可填写追问prompt。
  4. “对话体验”配置完成后,可在右侧“预览调试”中查看当前配置的开场白与推荐问题。

步骤7:调试应用

创建应用后,平台支持对应用执行过程的进行预览与调试。

调试应用的步骤如下:

  1. 在页面右上角单击,参考表2配置大模型参数。
    表2 大模型参数配置

    参数

    说明

    模型选择

    选择要使用的大模型,不同的模型效果存在差异。

    该模型需提前部署,步骤请参见创建NLP大模型部署任务

    模式选择

    用于配置大模型的输出多样性。

    包含取值:

    • 精确的:模型的输出内容严格遵循指令要求,可能会反复讨论某个主题,或频繁出现相同词汇。
    • 平衡的:平衡模型输出的随机性和准确性。
    • 创意性的:模型输出内容更具多样性和创新性,某些场景下可能会偏离主旨。
    • 自定义:自定义大模型输出的温度和核采样值,生成符合预期的输出。

    温度

    调高温度会使得模型的输出更多样性和创新性,反之,降低温度会使输出内容更加遵循指令要求但减少多样性,取值范围为0到1之间。

    • 调高温度,会使得模型的输出更多样性和创新性。
    • 降低温度,会使输出内容更加遵循指令要求但减少多样性。

    在基于事实的问答场景,可以使用较低的回复随机性数值,以获得更真实和简洁的答案;在创造性的任务例如小说创作,可以适当调高回复随机性数值。建议不要与核采样同时调整。

    核采样

    模型在输出时会从概率最高的词汇开始选择,直到这些词汇的总概率累积达到核采样值。核采样值可以限制模型选择这些高概率的词汇,从而控制输出内容的多样性,取值范围为0.1到1之间。

  2. 在“预览调试”的左下角,选择是否开启“代码解释器”。
    • 如果开启,应用将支持生成并运行Python代码来解决用户数据处理和分析、数据可视化、数学计算等方面的需求。
    • 如果关闭,应用将不具备生成、运行代码的能力。
  3. 在右侧“预览调试”的文本框中输入对话,应用将根据对话生成相应的回答。

    应用调试成功后,可执行后续的调用操作调用应用

相关文档