置，启动模型部署。 表1 NlP大模型部署参数说明 参数分类 部署参数 参数说明 部署配置 模型来源 选择“盘古大模型”。 模型类型 选择“NLP大模型”。 部署模型 选择需要进行部署的模型。 部署方式 云上部署：算法部署至平台提供的资源池中。 最大TOKEN长度 模型可最大请求的上下文TOKEN数。

查看更多 →

据用于训练。进行数据配比的目的是为了确保模型能够更全面地学习和理解数据的多样性，提升模型的泛化能力和性能。 图4 发布方式2 图5 数据集配比 设置发布格式。由于数据工程需要支持对接盘古大模型或三方大模型，为了使这些数据集能够被这些大模型正常训练，平台支持发布不同格式的数据集。

查看更多 →

据用于训练。进行数据配比的目的是为了确保模型能够更全面地学习和理解数据的多样性，提升模型的泛化能力和性能。 图4 发布方式2 图5 数据集配比 设置发布格式。由于数据工程需要支持对接盘古大模型或三方大模型，为了使这些数据集能够被这些大模型正常训练，平台支持发布不同格式的数据集。

查看更多 →

变更计费模式 盘古大模型的模型订阅服务、数据托管服务、推理服务默认采用包周期计费，数据智算服务、数据通算服务、训练服务默认采用按需计费。 盘古大模型使用周期内不支持变更配置。

查看更多 →

为什么微调后的盘古大模型只能回答训练样本中的问题 当您将微调的模型部署以后，输入一个已经出现在训练样本中的问题，模型生成的结果很好，一旦输入了一个从未出现过的数据（目标任务相同），回答却完全错误。这种情况可能是由于以下几个原因导致的，建议您依次排查： 训练参数设置：您可以通过绘制

查看更多 →

主流开源大模型基于DevServer适配PyTorch NPU推理指导（6.3.906） 主流开源大模型基于Standard适配PyTorch NPU训练指导（6.3.906） 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.906） 主流开源大模型基于DevServer适配PyTorch

查看更多 →

使用API调用NLP大模型 模型部署成功后，可以通过“文本对话”API调用NLP大模型。 表1 NLP大模型API清单 API分类 API访问路径（URI） 文本对话 /v1/{project_id}/deployments/{deployment_id}/chat/completions

查看更多 →

数据量和质量均满足要求，为什么盘古大模型微调效果不好 这种情况可能是由于以下原因导致的，建议您排查： 训练参数设置：您可以通过绘制Loss曲线查询来确认模型的训练过程是否出现了问题，这种情况大概率是由于训练参数设置的不合理而导致了欠拟合或过拟合。请检查训练参数中的 “训练轮次”或

查看更多 →

盘古推理SDK简介 推理SDK概述 盘古大模型推理SDK是对REST API进行的封装，通过该SDK可以处理用户的输入，生成模型的回复，从而实现自然流畅的对话体验。 表1 推理SDK清单 SDK分类 SDK功能 支持语言 使用场景 推理SDK 对话问答（/chat/completions）

查看更多 →

应用/大屏/移动端接入 集成架构 统一认证 统一权限同步 父主题： 统一接入

查看更多 →

背景信息 企业数智员工解决方案是基于盘古大语言模型开发。盘古大模型致力于深耕行业，打造金融、政务、制造、矿山、气象、铁路等领域行业大模型和能力集，将行业知识know-how与大模型能力相结合，重塑千行百业，成为各组织、企业、个人的专家助手。 在数智员工的开发过程中，我们使用了大规

查看更多 →

大模型开发基本流程介绍 大模型（Large Models）通常指的是具有海量参数和复杂结构的深度学习模型，广泛应用于 自然语言处理 （NLP）等领域。开发一个大模型的流程可以分为以下几个主要步骤： 数据集准备：大模型的性能往往依赖于大量的训练数据。因此，数据集准备是模型开发的第一步。

查看更多 →

管理NLP大模型部署任务 模型更新、修改部署 成功创建部署任务后，如需修改已部署的模型或配置信息，可以在详情页面单击右上角的“模型更新”或“修改部署”进行调整。更新模型时可以替换模型，但在修改部署时模型不可替换。 在“模型更新”或“修改部署”后进行升级操作时，可选择全量升级或滚动升级两种方式：

查看更多 →

计费概述 关于盘古大模型的详细费用信息，敬请咨询华为云售前咨询，我们将为您提供专业的解答和支持。 通过阅读本文，您可以快速了解盘古大模型的计费模式、计费项、续费、欠费等主要计费信息。 计费模式 盘古大模型提供包周期计费、按需计费两种计费模式，以满足不同场景下的用户需求。关于计费模式的详细介绍请参见计费模式。

查看更多 →

工业感知AI模型库 工业AI感知库的建设目标是利用3C电子检测设备的运行所累积的资料，建立人工智能的智能模型库，利用人工智能模型训练，不断地进行迭代，最后将其应用到3C的电子测试中，以提高整个3C相关产品的测试性能。 工业AI感知库采用了标准的体系结构，实现了多模式的串行整合，并实现了云计算的迅速发行。

查看更多 →

托管模型到AI Gallery AI Gallery上每个资产的文件都会存储在线上的AI Gallery存储库（简称AI Gallery仓库）里面。每一个模型实例视作一个资产仓库，模型实例与资产仓库之间是一一对应的关系。例如，模型名称为“Test”，则AI Gallery仓库有个

查看更多 →

数据保护技术 盘古大模型服务通过多种数据保护手段和特性，保障存储在服务中的数据安全可靠。 表1 盘古大模型的数据保护手段和特性 数据保护手段 简要说明 传输加密（HTTPS） 盘古服务使用HTTPS传输协议保证数据传输的安全性。 基于OBS提供的数据保护 基于OBS服务对用户的数

查看更多 →

发布模型到AI Gallery 除了Gallery提供的已有资产外，还可以将个人创建的资产发布至Gallery货架上，供其他AI开发者使用，实现资产共享。 模型资产上架 登录AI Gallery，选择右上角“我的Gallery”。 在左侧“我的资产 > 模型”下，选择未发布的模型，单击模型名称，进入模型详情页。

查看更多 →

服务订阅模型管理在“模型管理>云服务订阅模型”页面中。 模型来源不同。订阅模型，模型来源于AI Gallery；云服务订阅模型，模型来源于其他AI服务开发的模型。 订阅模型列表 在ModelArts的“模型管理>订阅模型”页面中，罗列了从AI Gallery订阅的所有模型。 订阅模型，可通过如下操作获得：

查看更多 →

deployment_id 否 String 模型的deployment_id信息 最小长度：1 最大长度：128 vector_config 否 VectorConfig object 向量模型的相关配置 nlp_config 否 NlpConfig object NLP大模型相关配置 表4 IamInfo

查看更多 →

，启动模型部署。 表1 科学计算大模型部署参数说明 参数分类 部署参数 参数说明 部署配置 模型来源 选择“盘古大模型”。 模型类型 选择“科学计算大模型”。 场景 选择模型场景，分为“全球天气要素预测”、“全球中期降水预测”、“全球中期海洋智能预测”、“区域中期海洋智能预测”、

查看更多 →