- 功能总览
- 产品介绍
- 计费说明
- 快速入门
- 用户指南
- 最佳实践
- API参考
- SDK参考
-
常见问题
- 大模型概念类问题
-
大模型微调训练类问题
- 无监督领域知识数据量无法支持增量预训练,如何进行模型学习
- 如何调整训练参数,使盘古大模型效果最优
- 如何判断盘古大模型训练状态是否正常
- 如何评估微调后的盘古大模型是否正常
- 如何调整推理参数,使盘古大模型效果最优
- 为什么微调后的盘古大模型总是重复相同的回答
- 为什么微调后的盘古大模型的回答中会出现乱码
- 为什么微调后的盘古大模型的回答会异常中断
- 为什么微调后的盘古大模型只能回答训练样本中的问题
- 为什么在微调后的盘古大模型中输入训练样本问题,回答完全不同
- 为什么微调后的盘古大模型评估结果很好,但实际场景表现很差
- 为什么多轮问答场景的盘古大模型微调效果不好
- 数据量足够,为什么盘古大模型微调效果仍然不好
- 数据量和质量均满足要求,为什么盘古大模型微调效果不好
- 大模型使用类问题
- 提示词工程类
- 文档下载
- 通用参考
链接复制成功!
构建流程
准备工作
- 为确保有可用的NLP大模型,请先完成NLP大模型的部署操作,详见《用户指南》“开发盘古NLP大模型 > 部署NLP大模型 > 创建NLP大模型部署任务”。
- 本实践将使用华为云文本翻译API,请先完成创建多语言文本翻译插件操作。
操作流程
创建盘古多语言文本翻译工作流的流程见表1。
步骤1:创建并配置多语言文本翻译工作流
- 登录ModelArts Studio大模型开发平台,单击“AGENT开发”,将跳转至Agent开发平台。
图1 AGENT开发
- 在Agent开发平台,单击左侧导航栏“工作台”,在“工作流”页签,单击右上角“创建工作流”。
- 选择“对话型工作流”,输入工作流名称、英文名称及描述,单击“确定”,进入工作流编排页面。
图2 创建工作流
- 在工作流编排页面,平台已预先编排了开始、大模型与结束节点。
单击节点右上角的,可以对当前节点执行重命名、复制、删除操作。开始和结束节点为必选节点,无法删除。
图3 节点的重命名、复制、删除操作
- 配置“开始”节点。单击“开始”节点,该节点已默认配置query参数,该参数表示用户输入的内容。当前场景下无需新增参数,单击“确定”。
图4 连接节点操作
- 配置“意图识别”节点。
- 配置“提示器”节点。
- 鼠标拖动左侧“提问器”节点至编排页面,并连接“意图识别”的“文本翻译”意图节点与该节点,单击该节点进行配置。
- 在“参数配置”中,配置输入参数,如图7。
- 配置输出参数。如图8,单击“引用插件 > 个人插件”,选择#pangulm_04_0031/section5283185764817中创建好的插件,单击“确定”,将自动导入插件参数,如图9。
- 在“模型配置”中,选择模型并进行参数配置。
- 在“高级配置”中,配置“指令”如下:
请你从目标数据中提取翻译相关参数,参数包括text(待翻译文本),from(目标原语言),to(翻译目标语言)。目标数据未提供或者有歧义(如存在多个)的变量请保证取值为空\'\'。from的取值范围为ar、de、ru、fr、ko、pt、ja、th、es、en、vi、zh、auto。ar为阿拉伯语,de为德语,ru为俄语,fr为法语,ko为韩语,pt为葡萄牙语,ja为日语,th为泰语,tr为土耳其语,es为西班牙语,en为英语,vi为越南语,zh为中文,auto为不指定由插件自行决定语种。to的取值范围是ar、de、ru、fr、ko、pt、ja、th、es、en、vi、zh。ar为阿拉伯语,de为德语,ru为俄语,fr为法语,ko为韩语,pt为葡萄牙语,ja为日语,th为泰语,tr为土耳其语,es为西班牙语,en为英语,vi为越南语,zh为中文。请注意:不要使用任何工具、不用理会问题的具体含义,并保证你的输出仅有json格式的结果数据,以保证返回结果可以被json.dumps直接解析。你的返回格式格式示例为:{\"text\":\"a\",\"from\":\"b \",\"to\":\"c\"}。
- “提问器”节点配置完成后,单击“确定”。
- 配置“插件”节点。
- 鼠标拖动左侧“插件”节点至编排页面,在“个人插件”中选择创建多语言文本翻译插件创建好的翻译插件。
- 连接“提问器”节点与该节点,连接该节点与结束节点。
- 单击该节点,按照图10,进行参数配置,再单击“确定”。
- 配置“大模型”节点。
- 配置“结束”节点。
- 编排完成的工作流见图12。
步骤2:试运行多语言文本翻译工作流
完成工作流编排后,需要对该工作流进行试运行,以查看工作流效果。工作流试运行步骤如下:
- 配置文本翻译插件的Token。
单击右上角“试运行”,在“插件配置”中单击“添加参数”,填写X-Auth-Token和Token值,单击“开始运行”。
其中,X-Auth-Token为文本翻译的鉴权参数,Token值由创建多语言文本翻译插件获取。
图13 插件配置
- 试运行工作流。在“试运行”页面,输入对话。
如图14,当用户分别输入对话类问题(如“你好”)、翻译类问题(如“翻译奶茶到日语”)时,“意图识别”节点对用户的意图进行分类,最终输出翻译后的内容。
父主题: 低代码构建多语言文本翻译工作流