盘古大模型 PanguLargeModels
盘古大模型 PanguLargeModels
- 功能总览
- 产品介绍
- 计费说明
- 快速入门
- 用户指南
- 最佳实践
- API参考
- SDK参考
-
常见问题
- 高频常见问题
- 大模型概念类
-
大模型微调训练类
- 无监督领域知识数据量无法支持增量预训练，如何进行模型学习
- 如何调整训练参数，使盘古大模型效果最优
- 如何判断盘古大模型训练状态是否正常
- 如何评估微调后的盘古大模型是否正常
- 如何调整推理参数，使盘古大模型效果最优
- 为什么微调后的盘古大模型总是重复相同的回答
- 为什么微调后的盘古大模型的回答中会出现乱码
- 为什么微调后的盘古大模型的回答会异常中断
- 为什么微调后的盘古大模型只能回答训练样本中的问题
- 为什么在微调后的盘古大模型中输入训练样本问题，回答完全不同
- 为什么微调后的盘古大模型评估结果很好，但实际场景表现很差
- 为什么多轮问答场景的盘古大模型微调效果不好
- 数据量足够，为什么盘古大模型微调效果仍然不好
- 数据量和质量均满足要求，为什么盘古大模型微调效果不好
- 大模型使用类
- 提示词工程类
- 文档下载
- 通用参考
链接复制成功！
使用盘古NLP大模型创建Python编码助手应用
场景描述
该示例演示了如何使用盘古NLP大模型创建Python编码助手执行应用，示例将使用Agent开发平台预置的Python解释器预置插件。
“Python解释器插件”能够执行用户输入的Python代码，并获取结果。此插件为应用提供了强大的计算、数据处理和分析功能，用户只需将其添加到应用中，即可扩展功能。
准备工作
请确保您有预置的NLP大模型，并已完成模型的部署操作，详见《用户指南》“开发盘古NLP大模型 > 部署NLP大模型 > 创建NLP大模型部署任务”。
操作流程
使用盘古NLP大模型创建Python编码应用的流程见表1。
步骤1：创建应用
创建应用的步骤如下：
- 登录ModelArts Studio大模型开发平台，进入所需空间。
- 在左侧导航栏中选择“Agent开发”，将跳转至Agent开发平台。
- 在Agent开发平台，单击左侧导航栏“工作台”按钮，在“应用”页签，单击右上角“创建应用”。
- 输入应用名称，如“Python编码助手”，输入应用描述，单击“确定”，完成应用创建。
图1 创建应用
步骤2：配置提示词
创建应用后，需要撰写提示词（Prompt），为应用设定人设、能力、核心技能、执行步骤。
应用会根据盘古NLP大模型对提示词的理解，来响应用户问题。因此，一个好的提示词可以让模型更好地理解并执行任务，应用效果与提示词息息相关。
配置提示词步骤如下：
- 在“提示词”模块，可依据模板填写Prompt，单击“
”，输入框中将自动填入角色指令模板。 - 示例如图2，您可以依据模板进行填写。
- 填写后可通过大模型进行优化，单击“智能优化”，在 “Prompt优化”窗口中单击“确定”。
步骤3：添加预置插件
应用支持添加插件技能，可添加“预置插件”和“个人插件”。添加插件可以为应用配备更多技能，建议插件数量不超过5个。
本节示例将指导您添加名为python_interpreter的“预置插件”。
添加插件的步骤如下：
- 在“技能 > 插件”模块，单击“添加”。
- 在“添加插件”窗口，选择预置插件python_interpreter，单击
进行添加，再单击“确定”。
图3 添加python_interpreter插件
- 添加插件后，可在“技能 > 插件”中查看当前已添加的插件。
图4 已添加插件
步骤4：配置对话体验
应用支持配置对话体验功能，该功能可以提升用户与应用之间的互动质量和个性化体验，包括开场白、推荐问题。
- 开场白：开场白是用户与应用进行首次交互时，应用主动向用户展示的一段内容。
- 推荐问题：推荐问题是用户首次与应用互动时，应用主动展示的一些问题或话题建议。
配置对话体验的步骤如下：
步骤5：调试应用
创建应用后，平台支持对应用执行过程的进行预览与调试。
调试应用的步骤如下：
- 在页面右上角单击
，参考图5配置大模型参数。
- 在“预览调试”的左下角，选择开启“代码解释器”。
- 在“预览调试”的下方文本框中输入对话，例如“请编写输出10以内的素数的Python代码”，应用将根据对话生成相应的回答。
图6 预览调试结果
- 单击右上角“调试”，可查看应用的运行结果与调用详情。
图7 调用详情示例
