盘古推理SDK简介 推理SDK概述 盘古大模型推理SDK是对REST API进行的封装，通过该SDK可以处理用户的输入，生成模型的回复，从而实现自然流畅的对话体验。 表1 推理SDK清单 SDK分类 SDK功能 支持语言 使用场景 推理SDK 对话问答（/chat/completions）

查看更多 →

拟合，模型没有学到任何知识。请检查训练参数中的 “训练轮次”或“学习率”等参数的设置，适当增大“训练轮次”的值，或根据实际情况调整“学习率”的值，帮助模型更好收敛。 数据质量：请检查训练数据的质量，若训练样本和目标任务不一致或者分布差异较大，则会加剧该现象。 父主题： 大模型微调训练类问题

查看更多 →

Studio大模型开发平台，支持的数据类型包括文本、图片、视频、气象、预测数据以及用户自定义的其他类型数据。平台提供灵活的数据接入方式，确保不同业务场景下的数据获取需求得到满足。 数据加工：平台提供强大的数据加工功能，涵盖数据清洗、过滤等操作，确保原始数据满足业务需求和模型训练的要求

查看更多 →

使用盘古预置NLP大模型进行文本对话 场景描述 此示例演示了如何使用盘古能力调测功能与盘古NLP大模型进行对话问答。您将学习如何通过调试模型超参数，实现智能化对话问答功能。 准备工作 请确保您有预置的NLP大模型，并已完成模型的部署操作，详见《用户指南》“开发盘古NLP大模型 >

查看更多 →

准备工作 申请试用盘古大模型服务 配置服务访问授权 创建并管理盘古工作空间

查看更多 →

创建NLP大模型部署任务 模型训练完成后，可以启动模型的部署操作。 登录ModelArts Studio大模型开发平台，进入所需操作空间。 图1 进入操作空间 在左侧导航栏中选择“模型开发 > 模型部署”，单击界面右上角“创建部署”。 在“创建部署”页面，模型类型选择“NLP大模型”

查看更多 →

背景信息 企业数智员工解决方案是基于盘古大语言模型开发。盘古大模型致力于深耕行业，打造金融、政务、制造、矿山、气象、铁路等领域行业大模型和能力集，将行业知识know-how与大模型能力相结合，重塑千行百业，成为各组织、企业、个人的专家助手。 在数智员工的开发过程中，我们使用了大规

查看更多 →

NLP大模型 文本对话 父主题： API

查看更多 →

支持发布的数据格式 ModelArts Studio大模型开发平台支持将文本类、图片类数据集发布为三种格式： 默认格式：适用于广泛的数据使用场景，满足大多数模型训练的标准需求。 盘古格式：专为盘古大模型训练设计的格式，确保数据集在盘古模型训练中的兼容性和一致性。 自定义格式：适用于文本

查看更多 →

提示词要素 指令：要求模型执行的具体任务或回答的问题。如：“写一篇关于勇士的小说”、“天空为什么是蓝色的？” 说明：对任务要求的补充说明。如：“有冒险、友情等元素”、“生成文本少于200字” 上下文：提供角色、示例、外部信息等，供大模型参考。 提示工程是什么 大模型生成文本的过程可视

查看更多 →

撰写提示词 创建提示词工程 撰写所需提示词 预览提示词效果 父主题： 开发盘古大模型提示词工程

查看更多 →

批量评估提示词效果 创建提示词评估数据集 创建提示词评估任务 查看提示词评估结果 父主题： 开发盘古大模型提示词工程

查看更多 →

创建与管理工作流 工作流简介 创建工作流 管理工作流 父主题： 开发盘古大模型Agent应用

查看更多 →

获取提示词模板 平台提供了多种任务场景的提示词模板，可以帮助用户更好地利用大模型的能力，引导模型生成更准确、更有针对性的输出，从而提高模型在特定任务上的性能。 在创建提示词工程前，可以先使用预置的提示词模板，或基于提示词模板进行改造 。如果提示词模板满足不了使用需求可再单独创建。

查看更多 →

横向比较提示词效果 设置候选提示词 横向比较提示词效果 父主题： 开发盘古大模型提示词工程

查看更多 →

过这样的统一管理，用户能够更高效地组织和利用数据资源，确保数据资产的安全性和一致性。 管理数据资产 登录ModelArts Studio大模型开发平台，进入所需空间。 在左侧导航栏“空间资产 > 数据”中可以查看当前空间内的数据资产，如果有多个空间的访问权限，可切换空间查看其他空间内的资产。

查看更多 →

方案优势 记忆与反思能力 通过LLM大语言模型技术，学习、记忆和反思先前的交互经验，以改进后续的服务质量和效率 基于自然语言交互 通过自然语言与数智员工交互，快速、准确地理解并执行用户任务，提供高效、个性化的服务 多层大语言模型训练 通过多层大语言模型集成和训练，数智员工具备通识教育、职业培训和入职培训所需的能力。

查看更多 →

调用说明 盘古大模型提供了REST（Representational State Transfer）风格的API，支持您通过HTTPS请求调用，调用方法请参见如何调用REST API。 调用API时，需要用户网络可以访问公网。 父主题： 使用前必读

查看更多 →

手工编排Agent应用流程 配置Prompt builder 配置插件 配置知识 配置开场白和推荐问题 调试Agent应用 父主题： 开发盘古大模型Agent应用

查看更多 →

配置OBS访问授权 盘古大模型服务使用 对象存储服务 （Object Storage Service，简称OBS）进行数据存储，实现安全、高可靠和低成本的存储需求。因此，为了能够顺利进行存储数据、训练模型等操作，需要用户配置访问OBS服务的权限。 登录ModelArts Studio大模型开发平台首页。

查看更多 →

计费项 盘古大模型分为模型订阅服务、训练服务和推理服务三个收费项。 模型订阅服务按照订阅时长计费，提供3个月与1年两种周期供客户选择，自支付完成开始计费。 数据智算服务、数据通算服务、数据托管服务按服务的单元数量和时长计费，时长精确到秒。 模型训练服务按服务的单元数量和时长计费，时长精确到秒。

查看更多 →