-
各个模型深度学习训练加速框架的选择
![]()
各个模型深度学习训练加速框架的选择 LlamaFactory框架使用两种训练框架： DeepSpeed和Accelerate都是针对深度学习训练加速的工具，但是它们的实现方式和应用场景有所不同。 DeepSpeed是一种深度学习加速框架，主要针对大规模模型和大规模数据集的训练。De
来自：帮助中心 -
数据处理场景介绍
![]()
数据扩增通过简单的数据扩增例如缩放、裁剪、变换、合成等操作直接或间接的方式增加数据量。 数据生成应用相关深度学习模型，通过对原数据集进行学习，训练生成新的数据集的方式增加数据量。 数据域迁移应用相关深度学习模型，通过对原域和目标域数据集进行学习，训练生成原域向目标域迁移的数据。 父主题： 处理ModelArts数据集中的数据
来自：帮助中心 -
华为人工智能工程师培训
-
AI原生应用引擎基本概念
![]()
调技术，通过低秩矩阵分解技术显著减少了微调所需的参数，降低了微调过程中所需的存储和计算资源，可灵活地运用于不同的预训练模型和任务。 Loss曲线 Loss曲线是一个用于评估模型训练效果的工具，它展示了模型在训练过程中产生的损失（Loss）随时间的变化情况。通过观察Loss曲线，可
来自：帮助中心 -
附录：指令微调训练常见问题
![]()
附录：指令微调训练常见问题 问题1：在训练过程中遇到NPU out of memory 解决方法： 将yaml文件中的per_device_train_batch_size调小，重新训练如未解决则执行下一步。 替换深度学习训练加速的工具或增加zero等级，可参考各个模型深度学习训练加速框
来自：帮助中心 -
功能介绍
![]()
网络结构及模型参数配置2 模型训练 模型训练多维度可视化监控，包括训练精度/损失函数曲线、GPU使用率、训练进度、训练实时结果、训练日志等。 图15 训练指标和中间结果可视化 图16 训练过程资源监控 支持多机多卡环境下的模型分布式训练，大幅度提升模型训练的速度，满足海量样本数据加速训练的需求。 图17
来自：帮助中心 -
问答模型训练（可选）
![]()
先单击“重量级深度学习”，然后单击“联系我们”。 图2 重量级深度学习 编辑模型信息。 轻量级深度学习：选填“模型描述”。 图3 轻量级深度学习 重量级深度学习：选择量级“中量级”或“重量级”，选填“模型描述”。 中量级：训练时长约为轻量级的3-5倍；模型精度较轻量级提升约20%
来自：帮助中心 -
Standard自动学习
![]()
提供“自动学习白盒化”能力，开放模型参数、自动生成模型，实现模板化开发，提高开发效率 采用自动深度学习技术，通过迁移学习（只通过少量数据生成高质量的模型），多维度下的模型架构自动设计（神经网络搜索和自适应模型调优），和更快、更准的训练参数自动调优自动训练 采用自动机器学习技术，基于
来自：帮助中心 -
AI开发基本流程介绍
![]()
决策参考。训练模型的结果通常是一个或多个机器学习或深度学习模型，模型可以应用到新的数据中，得到预测、评价等结果。 业界主流的AI引擎有TensorFlow、PyTorch、MindSpore等，大量的开发者基于主流AI引擎，开发并训练其业务所需的模型。 评估模型 训练得到模型之后
来自：帮助中心 -
什么是图像识别
![]()
什么是图像识别 图像识别（Image Recognition），是指利用计算机对图像进行分析和理解，以识别各种不同模式的目标和对象的技术，包括媒资图像标签，名人识别，主体识别，翻拍识别、图像标签等。 图像识别以开放API（Application Programming Inter
来自：帮助中心 -
创建科学计算大模型训练任务
![]()
如果学习率过大，模型可能无法收敛。 如果学习率过小，模型的收敛速度将变得非常慢。 学习率调整策略 用于选择学习率调度器的类型。学习率调度器可以在训练过程中动态地调整学习率，以改善模型的训练效果。目前支持CosineDecayLR调度器。 变量权重 变量权重 训练数据设置完成后，会显示出各变量以及默认的权重。您可以基于变量的重要情况调整权重。
来自：帮助中心 -
精度调优前准备工作
![]()
（计算空泡），从而提高训练效率。 学习率预热 不同的学习率调度器（决定什么阶段用多大的学习率）有不同的学习率调度相关超参，例如线性调度可以选择从一个初始学习率lr-warmup-init开始预热。您可以选择多少比例的训练迭代步使用预热阶段的学习率。不同的训练框架有不同的参数命名，需要结合代码实现设置对应的参数。
来自：帮助中心 -
超过最大递归深度导致训练作业失败
![]()
超过最大递归深度导致训练作业失败 问题现象 ModelArts训练作业报错： RuntimeError: maximum recursion depth exceeded in __instancecheck__ 原因分析 递归深度超过了Python默认的递归深度，导致训练失败。 处理方法
来自：帮助中心 -
自动学习训练作业失败
![]()
自动学习训练作业失败 自动学习训练作业创建失败，一般是因为后台服务故障导致的，建议稍等片刻，然后重新创建训练作业。如果重试超过3次仍无法解决，请联系华为云技术支持。 自动学习训练作业创建成功，但是在运行过程中，由于一些故障导致作业运行失败，排查方式如下： 首次出现请检查您的账户是
来自：帮助中心 -
BF16和FP16说明
![]()
而提供更好的稳定性和可靠性，在大模型训练和推理以及权重存储方面更受欢迎。 FP16：用于深度学习训练和推理过程中，可以加速计算并减少内存的占用，对模型准确性的影响在大多数情况下较小。与BF16相比在处理非常大或非常小的数值时遇到困难，导致数值的精度损失。 综上所述，BF16因其与
来自：帮助中心 -
BF16和FP16说明
![]()
而提供更好的稳定性和可靠性，在大模型训练和推理以及权重存储方面更受欢迎。 FP16：用于深度学习训练和推理过程中，可以加速计算并减少内存的占用，对模型准确性的影响在大多数情况下较小。与BF16相比在处理非常大或非常小的数值时遇到困难，导致数值的精度损失。 综上所述，BF16因其与
来自：帮助中心 -
Standard模型训练
![]()
，模型训练支持统一管理多个训练作业，方便用户选择最优的模型 提供训练作业的事件信息（训练作业生命周期中的关键事件点）、训练日志（训练作业运行过程和异常信息）、资源监控（资源使用率数据）、Cloud Shell（登录训练容器的工具）等能力，方便用户更清楚的了解训练作业运行过程，并在遇到任务异常时更加准确的排查定位问题
来自：帮助中心 -
算法备案公示
![]()
、课件制作等场景模拟真人配音，提升数字内容生产效率。 算法运行机制 训练阶段： 用户上传一段真人语音音频及授权书作为输入。 音频经过人工安全审核和授权认证后，由训练人员标注用于训练的音频数据，使用深度学习算法训练生成数字人声音模型。 推理阶段： 用户上传一段文本作为输入文本内容，由系统自动审核。
来自：帮助中心 -
BF16和FP16说明
![]()
而提供更好的稳定性和可靠性，在大模型训练和推理以及权重存储方面更受欢迎。 FP16：用于深度学习训练和推理过程中，可以加速计算并减少内存的占用，对模型准确性的影响在大多数情况下较小。与BF16相比在处理非常大或非常小的数值时遇到困难，导致数值的精度损失。 综上所述，BF16因其与
来自：帮助中心 -
BF16和FP16说明
![]()
而提供更好的稳定性和可靠性，在大模型训练和推理以及权重存储方面更受欢迎。 FP16：用于深度学习训练和推理过程中，可以加速计算并减少内存的占用，对模型准确性的影响在大多数情况下较小。与BF16相比在处理非常大或非常小的数值时遇到困难，导致数值的精度损失。 综上所述，BF16因其与
来自：帮助中心 -
BF16和FP16说明
![]()
而提供更好的稳定性和可靠性，在大模型训练和推理以及权重存储方面更受欢迎。 FP16：用于深度学习训练和推理过程中，可以加速计算并减少内存的占用，对模型准确性的影响在大多数情况下较小。与BF16相比在处理非常大或非常小的数值时遇到困难，导致数值的精度损失。 综上所述，BF16因其与
来自：帮助中心
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
