机器人版本说明 功能列表 基础版 高级版 专业版 旗舰版 管理问答语料 √ √ √ √ 实体管理 √ √ √ √ 问答模型训练 轻量级深度学习 - √ √ √ 重量级深度学习 - - - √ 调用 问答机器人 √ √ √ √ 问答诊断 - √ √ √ 运营面板 √ √ √ √ 高级设置 基本信息

查看更多 →

模型版本保存次数=max_steps//save_steps +1 save_total_limit 0 用于控制权重版本保存次数。 当参数不设置或<=0时，不会触发效果。 参数值需<=max_steps//save_steps+1 当参数值>1时，保存模型版本次数与save_total_limit的值一致。

查看更多 →

使用模型训练服务快速训练算法模型 本文档以硬盘故障检测的模型训练为例，介绍模型训练服务使用的全流程，包括数据集、特征工程、模型训练、模型管理和模型验证，使开发者快速熟悉模型训练服务。 操作流程 前提条件 订购模型训练服务 访问模型训练服务 创建项目 数据集 特征工程 模型训练 模型管理

查看更多 →

同的资源规格训练时为什么训练速度差不多？ ModelArts的Notebook实例upload后，数据会上传到哪里？ 开发环境中不同Notebook规格资源“/cache”目录的大小 在Notebook中，如何使用昇腾多卡进行调试？ 更多 模型部署 导入模型时，模型配置文件中的安装包依赖参数如何编写？

查看更多 →

小。在深度学习中，微调用于改进预训练模型的性能。 2 生成模型服务 将已有模型部署为模型服务 接入模型服务 支持通过API接入模型服务，同时支持将平台预置模型进行微调后，部署为模型服务，模型服务可以在创建Agent时使用或通过模型调用接口调用。 3 调测模型 通过调测模型，可检验

查看更多 →

Framework模块提供了OBS中常见的数据文件操作，如读写、列举、创建文件夹、查询、移动、复制、删除等。 在ModelArts Notebook中使用MoXing接口时，可直接调用接口，无需下载或安装SDK，使用限制比ModelArts SDK和OBS SDK少，非常便捷。 父主题： AI开发基础知识

查看更多 →

，从而提供更好的稳定性和可靠性，在大模型训练和推理以及权重存储方面更受欢迎。 FP16：用于深度学习训练和推理过程中，可以加速计算并减少内存的占用，对模型准确性的影响在大多数情况下较小。与BF16相比在处理非常大或非常小的数值时遇到困难，导致数值的精度损失。 综上所述，BF16因

查看更多 →

，从而提供更好的稳定性和可靠性，在大模型训练和推理以及权重存储方面更受欢迎。 FP16：用于深度学习训练和推理过程中，可以加速计算并减少内存的占用，对模型准确性的影响在大多数情况下较小。与BF16相比在处理非常大或非常小的数值时遇到困难，导致数值的精度损失。 综上所述，BF16因

查看更多 →

重复惩罚（repetition_penalty）是在模型训练或生成过程中加入的惩罚项，旨在减少重复生成的可能性。通过在计算损失函数（用于优化模型的指标）时增加对重复输出的惩罚来实现的。如果模型生成了重复的文本，它的损失会增加，从而鼓励模型寻找更多样化的输出。 提示词工程相关概念 表4 提示词工程相关概念说明

查看更多 →

packing true 可选项。当选用静态数据长度时，可将不足于文本处理时的最大长度数据弥补到文本处理时的最大长度;当选用动态数据长度则去掉此参数。 deepspeed examples/deepspeed/ds_z3_config.json 可选项。用于指定DeepSpeed的配置

查看更多 →

模型训练必备要素包括训练代码、训练框架、训练数据。 训练代码包含训练作业的启动文件或启动命令、训练依赖包等内容。 当使用预置框架创建训练作业时，训练代码的开发规范可以参考开发用于预置框架训练的代码。 当使用 自定义镜像 创建训练作业时，训练代码的开发规范可以参考开发用于自定义镜像训练的代码。

查看更多 →

准备模型训练镜像 ModelArts平台提供了Tensorflow，PyTorch，MindSpore等常用深度学习任务的基础镜像，镜像里已经安装好运行任务所需软件。当基础镜像里的软件无法满足您的程序运行需求时，您还可以基于这些基础镜像制作一个新的镜像并进行训练。 训练作业的预置框架介绍

查看更多 →

客户在使用昇腾算力开发模型时面临诸多挑战： 技术栈差异：各地国产化算力中心建设完成后，客户常因技术栈差异面临软硬件兼容性和使用困难，导致开发效率低下。 技术理解不足：部分客户缺乏对华为昇腾AI平台的深入了解，遇到技术问题时响应不及时，影响项目推进和创新。 迁移难度大：AI模型迁移面临算子层

查看更多 →

由于网络原因，官方镜像可能无法拉取，导致工作负载出现ImagePullBackOff或FailedPullImage错误，请您自行添加合适的镜像代理。 查看所有命名空间下的Pod是否都处于运行状态。 kubectl get pod -A 如果创建资源时出现非预期问题，请参见常见问题进行处理。

查看更多 →

rser查看loss收敛情况，将trainer_log.jsonl文件长传至可视化工具页面，如图2所示。 单节点训练：训练过程中的loss直接打印在窗口上。 多节点训练：训练过程中的loss打印在第一个节点上。 图2 Loss收敛情况（示意图） 注：ppo训练结束不会打印性能。建

查看更多 →

arser查看loss收敛情况，将trainer_log.jsonl文件长传至可视化工具页面，如图2所示。 单节点训练：训练过程中的loss直接打印在窗口上。 多节点训练：训练过程中的loss打印在第一个节点上。 图2 Loss收敛情况（示意图） ppo训练结束不会打印性能。建议根据保存路径下的trainer_log

查看更多 →

数据量和质量均满足要求，为什么盘古大模型微调效果不好 这种情况可能是由于以下原因导致的，建议您排查： 训练参数设置：您可以通过绘制Loss曲线查询来确认模型的训练过程是否出现了问题，这种情况大概率是由于训练参数设置的不合理而导致了欠拟合或过拟合。请检查训练参数中的 “训练轮次”或“学习率”等参数的设置

查看更多 →

查看。分布式训练时，任务被分配到多个工作节点上进行并行处理，每个工作节点负责处理一部分数据或执行特定的计算任务。日志也可以按照不同的工作节点（如worker-0表示第一个工作节点）进行筛选查看。 图2 获取训练日志 父主题： 训练科学计算大模型

查看更多 →

客户使用包周期实例作为常规容量提供服务，在业务高峰时，得益于竞享实例低成本及快速扩缩容特性，竞享实例为系统提供可变容量以应对流量洪峰。自动化是这项业务的关键，所以客户需要进行业务容错性改造，实现任何一个或一些实例出现故障（被回收）时，可自行替换并继续运行，无需任何人工干预。 实时数据分析

查看更多 →

当“数据来源”选择“本地上传”时，需配置此参数。 单击“文件上传”选择本地JSON格式的文件进行上传（仅支持JSON格式）。 OBS桶名 当“数据集来源”选择“OBS接入”时，需配置此参数。 在下拉列表中选择数据所在的OBS桶名。 OBS路径 当“数据集来源”选择“OBS接入”时，需配置此参数。

查看更多 →

。 已完成迁移环境准备，且代码、预训练模型、数据等训练必需内容已经上传到环境中。 约束和限制 安装插件后，大部分能力能够对标在GPU上的使用，但并不是所有行为和GPU上是一一对应的。例如在torch_npu下，当PyTorch版本低于2.1.0时，一个进程只能操作一张昇腾卡，不支

查看更多 →