附录：Standard大模型推理常见问题 问题1：在推理预测过程中遇到NPU out of memory。 解决方法：调整推理服务启动时的显存利用率，将--gpu-memory-utilization的值调小。 问题2：在推理预测过程中遇到ValueError:User-specified

查看更多 →

附录：大模型推理standard常见问题 问题1：在推理预测过程中遇到NPU out of memory。 解决方法：调整推理服务启动时的显存利用率，将--gpu-memory-utilization的值调小。 问题2：在推理预测过程中遇到ValueError:User-specified

查看更多 →

盘古药物分子大模型 盘古药物分子大模型是基于华为与中科院上海药物所共同研发、专门面向药物研发领域推出的预训练大模型，旨在帮助医药公司开启AI辅助药物研发的新模式。盘古药物分子大模型学习了17亿个药物分子的化学结构，模型参数上亿，是目前最大的小分子药物模型。华为盘古药物分子大模型在分子生

查看更多 →

盘古药物分子大模型 盘古药物分子大模型是基于华为与中科院上海药物所共同研发、专门面向药物研发领域推出的预训练大模型，旨在帮助医药公司开启AI辅助药物研发的新模式。盘古药物分子大模型学习了17亿个药物分子的化学结构，模型参数上亿，是目前最大的小分子药物模型。华为盘古药物分子大模型在分子生

查看更多 →

在线服务 步骤7：在线预测 在“部署上线 > 在线服务”管理页面，单击在线服务名称，进入在线服务详情页面。 在线服务详情页面中，切换到 “预测“ 页签，单击“上传”，从本地上传待预测数据，格式参考算法说明。 本地上传数据完成后，单击“预测”，开始预测。 图9 预测结果 步骤8：清除资源

查看更多 →

预测接口（文本标签） 分词模型 命名实体识别模型 父主题： 在线服务API

查看更多 →

分子属性预测（MPP） ADMET属性预测接口 ADMET属性预测接口(默认+自定义属性) 父主题： API（AI辅助药物设计）

查看更多 →

据集训练得到模型时的输出（预测项）。 除标签列外数据集中至少还应包含两个有效特征列（列的取值至少有两个且数据缺失比例低于10%）。 当前由于特征筛选算法限制，预测数据列建议放在数据集最后一列，否则可能导致训练失败。 表格数据集示例： 以银行存款预测数据集为例：根据预测人的年龄、工

查看更多 →

自动学习声音分类预测报错ERROR:input key sound is not in model 根据在线服务预测报错日志ERROR：input key sound is not in model inputs可知，预测的音频文件是空。预测的音频文件太小，换大的音频文件预测。 父主题：

查看更多 →

开发盘古科学计算大模型 训练科学计算大模型 进行模型的训练，如预训练、微调等训练方式。 训练科学计算大模型 部署科学计算大模型 部署后的模型可进行调用操作。 部署科学计算大模型 调用科学计算大模型 支持“能力调测”功能与API两种方式调用大模型。 调用科学计算大模型 管理盘古大模型空间资产

查看更多 →

计算大模型”。模型选择完成后，参考表1、表2完成训练参数设置，启动模型训练。 表1 科学计算大模型（中期天气要素预测）训练参数说明 参数分类 参数名称 参数说明 训练配置 模型来源 选择“盘古大模型”。 模型类型 选择“科学计算大模型”。 场景 选择“中期天气要素预测”。 训练类型

查看更多 →

使用大模型在ModelArts Standard创建模型部署在线服务 背景说明 目前大模型的参数量已经达到千亿甚至万亿，随之大模型的体积也越来越大。千亿参数大模型的体积超过200G，在版本管理、生产部署上对平台系统产生了新的要求。例如：导入模型时，需要支持动态调整租户存储配额；模

查看更多 →

发布训练后的科学计算大模型 科学计算大模型训练完成后，需要执行发布操作，操作步骤如下： 在模型训练列表页面选择训练完成的任务，单击训练任务名称进去详情页。 在“训练结果”页面，单击“发布”。 图1 训练结果 填写资产名称、描述，选择对应的可见性，单击“确定”发布模型。 发布后的模型会作为资产同步显示在“空间资产

查看更多 →

NLP大模型训练流程与选择建议 NLP大模型训练流程介绍 NLP大模型专门用于处理和理解人类语言。它能够执行多种任务，如对话问答、文案生成和阅读理解，同时具备逻辑推理、代码生成和插件调用等高级功能。 NLP大模型的训练分为两个关键阶段：预训练和微调。 预训练阶段：在这一阶段，模型通过

查看更多 →

使用“能力调测”调用NLP大模型 平台提供的“能力调测”功能支持用户直接调用预置模型或经过训练的模型。使用该功能前，需完成模型的部署操作，详见创建NLP大模型部署任务。 NLP大模型支持文本对话能力，在输入框中输入问题，模型就会返回对应的答案内容。 图1 调测NLP大模型 表1 NLP大模型能力调测参数说明

查看更多 →

查看科学计算大模型部署任务详情 部署任务创建成功后，可以在“模型开发 > 模型部署”页面查看模型的部署状态。 当状态依次显示为“初始化 > 部署中 > 运行中”时，表示模型已成功部署，可以进行调用。 此过程可能需要较长时间，请耐心等待。在此过程中，可单击模型名称可进入详情页，查看

查看更多 →

大模型微调需要的数据有要求吗？ AI原生应用引擎用于大模型微调的数据集任务领域为“ 自然语言处理 ”、数据集格式为“对话文本”。 文件内容要求为标准json数组，例如： [{"instruction": "aaa", "input": "aaa", "output": "aaa"},{"instruction":

查看更多 →

发布预测类数据集 原始数据集和加工后的数据集不可以直接用于模型训练，需要独立创建一个“发布数据集”。 预测类数据集当前仅支持发布为“默认格式”，操作步骤如下： 登录ModelArts Studio大模型开发平台，进入所需操作空间。 图1 进入操作空间 在左侧导航栏中选择“数据工程

查看更多 →

行调整。 图3 任务策略配置界面 表1 任务策略 算法分类 外呼策略属性 说明 经验预测 呼出速度 用于表达呼出快慢的预测因子阈值，系统根据经验模型计算。 建议针对不同的项目类型以及拨测结果，预测阈值根据不同的平均通话时长进行配置，100秒以下的项目建议配置成70，100~140

查看更多 →

权限。 约束限制 避免作业名重复。 必须选择一个已有模型才能创建批量预测作业。 批量预测作业必须选择一个当前计算节点发布的数据集。 创建联邦预测作业 批量预测作业在本地运行，目前支持XGBoost算法、逻辑回归LR算法、深度神经网络FiBiNet算法。 用户登录进入计算节点页面。

查看更多 →

删除实时预测作业 删除实时预测作业 用户登录进入计算节点页面。 在左侧导航树上依次选择“作业管理 > 联邦预测”，打开联邦预测作业页面。 在“联邦预测”页面实时预测tab页，查找待删除的作业，单击“删除”。如果作业处于“部署完成“状态，需要单击“停止部署”后，方可删除。 删除操作无法撤销，请谨慎操作。

查看更多 →