为华为云Astro轻应用服务编排添加大模型图元

大模型图元的作用

大模型图元用于实现与外部大模型的对接。例如，调用自定义大模型连接器图元实现与自定义大模型的对接。

前提条件

• 已从外部大模型提供商获取了大模型调用的API地址以及API Key。
• 外部大模型请求及响应格式需符合OpenAI标准，否则可能会出现流式调用及流式响应渲染异常等问题。
• 已参考使用连接器调用大模型中操作，创建大模型连接器。

如何使用大模型图元

1. 在“连接器 > 大模型”中，拖拽自定义大模型图元到画布中。
2. 选择自定义大模型图元，单击，设置基本信息。

   表1 基本信息参数说明

   参数	说明
   标签	设置图元的标签，用于在服务编排设计页面展示。系统会自动填入该值，格式为custom序号，序号从“0”开始，表示同类型图元序号。
   名称	设置图元的名称，名称为图元在服务编排中的标识，请确保在当前服务编排中唯一。命名要求如下： 长度范围为1~80个字符。 必须以英文字母开头，由英文字母，数字或单下划线组成，且不能以下划线结尾。
   描述	请根据实际需求，在输入框中输入图元的描述信息。 取值范围：1~255个字符。
   连接器	在下拉框中选择服务编排使用的连接器名称。

3. 单击，设置自定义大模型连接器参数。
   图1 配置自定义大模型连接器图元
   

   表2 自定义大模型连接器参数说明

   参数	说明
   输入参数	调用大模型连接器的输入参数。单击“新增行”，可进行添加。 “目标”取值为“message”时，请在“源”中，配置传递给大模型的对话数组变量。例如，inputMessage可传递。 [ { "role": "user", "content": "你是谁" } ] “目标”取值为“config”时，请在“源”中，配置传递给大模型的参数字典。例如，inputConfig可传递。 { "temperature": 0.8, "top_p": 1.0, "presence_penalty": 0.0 }