大模型推理场景介绍 常见的大模型包括大语言模型、多模态大模型、文生图大模型等，其中大语言模型支持文本生成，可以根据用户输入的提示词（prompt）进行推理，可广泛应用于以下领域： 问答系统：大语言模型可以处理自然语言，理解用户的意图，回答用户提出的问题。 内容生产：大语言模型可以

查看更多 →

AI模型 创建模型 盘古辅助制药平台支持用户创建AI模型，目前AI模型只有专业版支持。AI建模支持创建属性模型和基模型。创建属性模型是基于自定义数据，对盘古药物分子大模型进行微调，进行属性预测和迭代活性优化，实现干湿实验闭环。基模型基于自定义化合物数据，对盘古药物分子大模型进行增量预训练，提升化合物表征精度。

查看更多 →

NLP模型-云底座：通过华为云提供的盘古nlp大模型访问方式。 NLP模型-昇腾云：通过昇腾云的MAAS服务提供的nlp大模型访问方式。如果选择此模型进行问答，建议设置模型生成最大新词数不超过512。 NLP模型-裸机：通过裸机部署提供的盘古nlp大模型访问方式。 搜索Embedding模型：搜索向量化模型，支持将文本转化成向量。

查看更多 →

变更计费模式 盘古大模型的模型订阅、数据托管单元、推理单元默认采用包周期计费，数据智算单元、数据通算单元默认采用按需计费，训练单元采用包周期和按需计费两种方式。 盘古大模型使用周期内不支持变更配置。

查看更多 →

为什么微调后的盘古大模型只能回答训练样本中的问题 当您将微调的模型部署以后，输入一个已经出现在训练样本中的问题，模型生成的结果很好，一旦输入了一个从未出现过的数据（目标任务相同），回答却完全错误。这种情况可能是由于以下几个原因导致的，建议您依次排查： 训练参数设置：您可以通过绘制

查看更多 →

置，启动模型部署。 表1 NlP大模型部署参数说明 参数分类 部署参数 参数说明 部署配置 模型来源 选择“盘古大模型”。 模型类型 选择“NLP大模型”。 部署模型 选择需要进行部署的模型。 部署方式 云上部署：算法部署至平台提供的资源池中。 最大TOKEN长度 模型可最大请求的上下文TOKEN数。

查看更多 →

数据发布：平台支持将处理后的数据集发布为多种格式，包括默认格式和盘古格式。尤其对于文本类和图片类数据集，平台支持将其转换为专门用于训练盘古大模型的盘古格式，为后续模型训练提供高效的数据支持。 通过整合上述功能，数据工程模块不仅帮助用户高效构建高质量的训练数据集，还推动了模型的精确训练与持续优化，提升了AI应用开发的效率和成果的可靠性。

查看更多 →

问答准确率高：对自有的全面的行业知识，在盘古大模型的加持下，将问答的准确率提升25% 预测和分析更准确：结合盘古大模型，通过对现有数据的分析，可以提供更准确的预测结果。助于企业做出更明智的决策，改进业务流程，并提高效率。 员工满意度高：基于盘古大模型的能力提供个性化建议和改进措施，以提

查看更多 →

数据量和质量均满足要求，为什么盘古大模型微调效果不好 这种情况可能是由于以下原因导致的，建议您排查： 训练参数设置：您可以通过绘制Loss曲线查询来确认模型的训练过程是否出现了问题，这种情况大概率是由于训练参数设置的不合理而导致了欠拟合或过拟合。请检查训练参数中的 “训练轮次”或

查看更多 →

背景信息 企业数智员工解决方案是基于盘古大语言模型开发。盘古大模型致力于深耕行业，打造金融、政务、制造、矿山、气象、铁路等领域行业大模型和能力集，将行业知识know-how与大模型能力相结合，重塑千行百业，成为各组织、企业、个人的专家助手。 在数智员工的开发过程中，我们使用了大规

查看更多 →

大模型开发基本概念 大模型相关概念 概念名 说明 大模型是什么 大模型是大规模预训练模型的简称，也称预训练模型或基础模型。所谓预训练模型，是指在一个原始任务上预先训练出一个初始模型，然后在下游任务中对该模型进行精调，以提高下游任务的准确性。大规模预训练模型则是指模型参数达到千亿、

查看更多 →

数据保护技术 盘古大模型服务通过多种数据保护手段和特性，保障存储在服务中的数据安全可靠。 表1 盘古大模型的数据保护手段和特性 数据保护手段 简要说明 传输加密（HTTPS） 盘古服务使用HTTPS传输协议保证数据传输的安全性。 基于OBS提供的数据保护 基于OBS服务对用户的数

查看更多 →

使用API调用NLP大模型 模型部署成功后，可以通过“文本对话”API调用NLP大模型。 表1 NLP大模型API清单 API分类 API访问路径（URI） 文本对话 /v1/{project_id}/deployments/{deployment_id}/chat/completions

查看更多 →

主流开源大模型基于Standard适配PyTorch NPU训练指导（6.3.906） 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.906） 主流开源大模型基于DevServer适配PyTorch NPU训练指导（6.3.905） 主流开源大模型基于DevServer适配PyTorch

查看更多 →

使用智能分析助手进行智能数据分析 应用场景 DataArts Insight提供的基于盘古大模型的对话式数据智能分析，通过自然语言与数据交互，进行数据分析、进而获取智能见解、构建仪表板等，智能分析助手简化了数据分析的处理难度，提升了自助图表分析的效率。 本文档以某类商品的销售数据

查看更多 →

大模型开发基本流程介绍 大模型（Large Models）通常指的是具有海量参数和复杂结构的深度学习模型，广泛应用于 自然语言处理 （NLP）等领域。开发一个大模型的流程可以分为以下几个主要步骤： 数据集准备：大模型的性能往往依赖于大量的训练数据。因此，数据集准备是模型开发的第一步。

查看更多 →

管理NLP大模型部署任务 模型更新、修改部署 成功创建部署任务后，如需修改已部署的模型或配置信息，可以在详情页面单击右上角的“模型更新”或“修改部署”进行调整。更新模型时可以替换模型，但在修改部署时模型不可替换。 在“模型更新”或“修改部署”后进行升级操作时，可选择全量升级或滚动升级两种方式：

查看更多 →

使用数据工程构建科学计算大模型数据集 科学计算大模型支持接入的数据集类型 盘古科学计算大模型仅支持接入气象类数据集，该数据集格式要求请参见气象类数据集格式要求。 构建科学计算大模型训练数据要求 构建科学计算大模型进行训练的数据要求见表1。 表1 科学计算大模型训练数据要求 模型类别 特征要求

查看更多 →

支持发布的数据格式 ModelArts Studio大模型开发平台支持将文本类、图片类数据集发布为三种格式： 默认格式：适用于广泛的数据使用场景，满足大多数模型训练的标准需求。 盘古格式：专为盘古大模型训练设计的格式，确保数据集在盘古模型训练中的兼容性和一致性。 自定义格式：适用于文本

查看更多 →

集格式转换。 默认格式：平台默认的格式。 盘古格式：训练盘古大模型时，需要进行数据集格式转换。当前仅文本类、图片类数据集支持转换为盘古格式。 自定义格式：文本类数据集可以使用自定义脚本进行数据格式转换。 父主题： 使用数据工程准备与处理数据集

查看更多 →

提示词工程类 如何利用提示词提高大模型在难度较高推理任务中的准确率 如何让大模型按指定风格或格式回复 如何分析大模型输出错误回答的根因 为什么其他大模型适用的提示词在盘古大模型上效果不佳 如何判断任务场景应通过调整提示词还是场景微调解决

查看更多 →