# 大模型 大模型节点是工作流的"大脑"。它不仅能进行对话生成，还能基于上下文进行逻辑推理、任务拆解和非结构化数据提取。通过配置提示词和模型参数，可以控制其输出风格与格式，为下游节点提供决策依据或结构化数据。 核心能力： - 内容生成：撰写文案、代码、翻译、创意写作。 - 逻辑决策：分析用户意图，判断下一步调用哪个插件。 - 信息提取：从自然语言中提取JSON格式的关键字段（如时间、地点、金额）。 #### 约束与限制 - 如果在大模型节点后并行使用多个大模型，应将首个大模型节点配置为非流式输出。 - 大模型不支持失败时重试。 图1示例 ![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002687950258.png "点击放大") #### 费用说明 大模型节点调用会消耗Token并产生费用。不同模型计费单价不同，具体计费规则请参考[计费项](https://support.huaweicloud.com/price-agentarts/agentarts_08_0003.html)。 #### 配置大模型节点 配置大模型节点的详细参数说明如下： #### 模型配置 选择要使用的模型。此节点的输出内容质量很大程度上受模型能力的影响，建议根据实际业务场景选择模型。 您还可以单击![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002717549905.png)图标，调整模型配置。模型配置的详细说明可参考[选择并配置模型](https://support.huaweicloud.com/lowcode-agentarts/agentarts_05_0017.html)。 #### 输入参数 输入参数定义了从前置节点传入的变量，在提示词中通过{{参数名}}引用。默认参数名为query。 当单击![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002687950270.png)图标时，可新增输入参数，当单击![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002687950272.png)图标时，可删除输入参数。 - 参数名称：只允许输入字母、数字、下划线，且不能以数字开头。 - 类型、值：支持"引用"和"输入"两种类型。 - 引用：支持引用三类参数源，工作流前置节点的输出参数、全局配置中的记忆变量（需预先设置），以及系统参数。 系统参数列举如下： - "conversation_history"：存储当前对话的历史消息记录。 - "current_time"：获取当前的系统时间戳或时间字符串。 - "user_id"：识别当前用户的唯一标识符。 - "conversation_id"：当前工作流的唯一对话标识。 - "dialogue_count"：当前对话的轮次数计数。 - 输入：将用户自定义的内容传递给大模型，设置为输入模式后，无论前置节点产生什么输出内容，都不会传递给大模型。 ![](https://support.huaweicloud.com/lowcode-agentarts/public_sys-resources/note_3.0-zh-cn.png) 当参数类型为引用时，设置参数值时，您可以在下拉框顶部的搜索栏中输入关键词，快速定位所需参数。 - 描述：（可选）用于说明该输入参数的具体含义。 #### 输出参数 该参数用于解析大模型节点的输出，并提供给后续节点的输出参数引用。 - **输出格式** ：指定此节点输出的内容格式。输出格式支持设置为： - **文本**：纯文本格式。仅包含一个文本类型的输出变量，默认名称为raw_output（可自定义）。该变量直接承载模型生成的全部内容。适用于通用对话、简单文本生成场景。 - **Markdown**：Markdown格式。仅包含一个文本类型的输出变量，默认名称为raw_output（可自定义）。该变量承载模型生成的Markdown格式文本。适用于需要富文本格式展示的场景。 - **JSON**：标准JSON格式。支持定义多个结构化的输出变量（如price、location）。您需要预先定义好期望的输出参数，节点会自动尝试解析模型的回复，并将提取到的信息填充到对应的输出参数中。适用于下游需要结构化数据的场景（如字段提取、API入参构造）。 - **自定义参数** ： - 参数名称：名称请命名清晰易理解，有助于大模型正确返回匹配的内容。例如，使用new_query表示改写后的问题，而不是简单的output1。 ![](https://support.huaweicloud.com/lowcode-agentarts/public_sys-resources/note_3.0-zh-cn.png) 大模型节点内置raw_output，表示原始输出，后续节点可直接引用，用户自定义输出参数不可与其同名。 - 参数类型：参数类型请确保大模型实际输出的内容严格匹配。例如，如果类型定义为Integer（整数），模型却输出了"high"或3.14，下游程序可能会报错或执行异常。 - 参数描述：清晰的描述就是给模型的明确指令，模型会参考此描述来理解每个字段应提取什么内容。请尽量写清楚含义。例如"用户的购买地点"而不是"地点"。 - **是否流式输出**：流式输出控制模型是逐字返回还是一次性返回结果。仅文本、Markdown格式支持流式输出。 #### 提示词配置 - 短期记忆：用于控制大模型是否读取多轮对话的历史交互内容，开启时可确保多轮对话连贯性。支持通过单击右侧的开关按钮"启动"或"关闭"短期记忆功能，该功能默认关闭。 - 系统提示词： 配置输入给大模型的提示词，系统级提示词，用于指导模型按要求进行回复。撰写提示词方式可参考[撰写提示词规范](https://support.huaweicloud.com/lowcode-agentarts/agentarts_05_0177.html)。 支持单击![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002687790420.png)快速插入当前节点的输入参数，或在输入框中键入"{{}}"快速引用当前节点输入参数中已定义好的参数，最终替换后的内容会传递给模型。例如：需要让大模型能够根据用户输入的城市，预算以及旅行天数提供旅行建议的场景，输入参数分别定义为city，budget以及days，分别引用"开始"节点已定义好的city，budget、days参数，提示词中引用这些输入参数，如[图2]所示。 图2配置系统提示词 ![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002687950268.png "点击放大") 用户可单击![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002717390029.png)图标直接引用提示词模板；也可以自行撰写提示词，撰写后可单击![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002687790416.png)图标对系统提示词进行智能优化；也可单击![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002717390025.png)图标保存到模板，在"组件库\>提示词"中可查看该模板。 - 用户提示词： 用户直接输入给大模型的具体问题、指令或需求，例如，"你觉得未来的科技会怎样发展？"。支持单击![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002717549901.png)快速插入当前节点的输入参数，或在输入框中键入"{{}}"快速引用当前节点输入参数中已定义好的参数，最终替换后的内容会传递给模型。 用户提示词的质量直接决定了大模型输出结果的好坏，提示词越清晰，AI的回答越准确。 当单击![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002717549907.png)图标时，系统会弹出"选择提示词"窗口，可在"提示词广场"或"组件库提示词"页签中进行选择；同时支持单击快速插入当前节点的输入参数，或在输入框中键入"{{}}"快速引用当前节点输入参数中已定义好的参数。 #### 异常处理 支持对节点的异常（如超时、调用失败等情况）进行处理，包括超时时间、重试次数、异常处理方式。 - "超时时间"：支持用户配置超时时间，取值范围0.1\~900，默认900秒。 - "重试次数"：大模型暂不支持失败时重试。 - "异常处理方式"：配置异常处理方式。 - 中断流程：节点发生异常后，直接中断流程，不再运行后续节点。 - 返回设定内容：节点发生异常后，工作流不会中断，用户可自定义设置需要返回的输出字段内容，必须是输出参数中已定义的字段，且格式为合法的JSON格式。 - 执行异常流程：节点发生异常后，工作流不会中断，而是会执行异常处理流程。用户可以在该运行异常的节点后新增节点，并为新增的异常分支配置相应的处理流程。 ![](https://support.huaweicloud.com/lowcode-agentarts/public_sys-resources/note_3.0-zh-cn.png) - 当流式输出和异常处理功能开启时，异常处理参数默认为"不重试"和"中断流程"。 - 当流式输出功能关闭，输出格式为文本或Markdown时，异常处理方式仅支持"中断流程"。 - 当流式输出功能关闭，输出格式为JSON时，三种异常处理方式均支持。 #### 相关操作 - 单击节点名称，可修改节点名称。 - 单击![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002717549909.png)图标，可对节点进行重命名、复制、删除或更换节点；也可以将节点连接到结束节点。 - 单击![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002687790412.png)图标，可对节点进行测试。 - 单击名称下面的节点说明，可修改节点的描述信息。 - 单击![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002717549911.png)图标，可查看文档信息。 #### 配置示例 例如通过大模型节点自动从用户输入的一段文本中提取关键信息，开始节点接收用户的文本输入，大模型节点将用户的输入提取出关键字段，例如购买地点、购买产品和价格，最后结束节点输出这些字段。工作流编排方式如[图2 工作流]所示。 图3工作流 ![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002717549917.png "点击放大") 工作流核心节点如[表1]所示。 表1节点配置说明 | 节点类型 | 说明 | 示例 | |:---|:---|:---| | 开始节点 | 使用系统默认配置query参数，表示用户输入的内容。 | ![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002687790410.png "点击放大") | | 大模型节点 | 此节点读取开始节点中用户提供的输入文本，大模型会根据提示词要求，在输出参数中提取相关字段。 - **模型配置**：选择合适的模型。 - **输入参数：**引用开始节点的query。 - **输出参数：** 将需要提取的字段，在输出参数中定义，并在描述中说明提取的字段含义，便于大模型理解。 单击输出区域右上角的"![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002687790408.png)"，选择输出格式为"JSON"。单击"![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002687790424.png)"，添加参数。 - location：类型为"String"，描述为购买地点。 - product：类型为"String"，描述为购买产品。 - price：类型为"String"，描述为价格。 - **提示词配置：** - 系统提示词：定义一段系统提示词，如下所示： ``` 角色/指令：你是一个信息提取器，请从文本中提取：购买地点、购买产品和价格。输出格式要求：请以json格式输出，如果原文未提及，值设为“未知”。 ``` - 用户提示词：引用当前的输入参数query，即引用用户的原始输入。 ``` {{query}} ``` | ![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002717549897.png "点击放大") | | 结束节点 | 此节点用于输出和展示提取的字段信息。 - 输入参数：单击"![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002687790404.png)"，添加如下参数。 - location：引用大模型节点的location。 - product：引用大模型节点的product。 - price：引用大模型节点的price。 - 指定回复： ``` 购买地点：{{location}} 购买产品：{{product}} 购买价格：{{price}} ``` | ![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002687950278.png "点击放大") | 效果示例如下图所示。 图4效果示例 ![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002717549895.png) #### 常见问题 - **将工作流中的第一个大模型节点设置为流式输出时，为什么会报错101039？** 图5报错示例截图 ![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002717390027.png "点击放大") **原因** ：如果在大模型节点后并行使用多个大模型，应将首个大模型节点配置为非流式输出，流式输出模式可能会导致数据流在并行处理时出现不一致或冲突，从而引发错误101039。详见[约束与限制]。 **解决办法**： - 将第一个大模型节点的输出模式设置为非流式输出。确保配置文件中的"output_mode"参数设置为"batch"或其他非流式模式。 - 确认后续并行使用的大模型节点是否正确配置。确保每个节点的输入和输出格式一致，避免数据流冲突。 - 在测试环境中重新运行工作流，确保修改后的配置能够正常工作。逐步验证每个节点的输出，确保数据流的正确性和一致性。 - 查看模型和框架的官方文档，确认是否有关于流式输出和并行处理的特定要求或限制。 - 查看详细的错误日志，寻找更多关于错误101039的上下文信息，以便进一步诊断问题。 图6正确配置示例 ![](https://support.huaweicloud.com/lowcode-agentarts/zh-cn_image_0000002717549899.png "点击放大") - **为什么模型输出了JSON但后续节点无法识别？** - 解决方式一：确认节点"输出格式"是否已选为JSON。如果是"文本"模式，下游只能拿到字符串，无法取Key值。 - 解决方式二：检查提示词是否严格约束了"不要使用Markdown代码块"。某些模型习惯输出\`\`\`json {...}\`\`\`，这会导致JSON解析失败。建议在提示词中加入"仅返回原始JSON"。 - **JSON输出解析失败，下游拿到的是字符串而非结构化对象** | 检查项 | 操作 | |:---|:---| | 输出格式是否为JSON | 确认已在输出区域选择"JSON"而非"文本"。 | | 流式输出是否关闭 | JSON格式要求关闭流式输出。 | | Prompt是否约束了格式 | 在系统提示词中明确写入不要包含\`\`\`json标记，直接返回JSON。 | | 字段定义是否完整 | 确认输出参数中的字段名与Prompt中要求的字段名一致。 |