附录：指令微调训练常见问题 问题1：在训练过程中遇到NPU out of memory 解决方法： 将yaml文件中的per_device_train_batch_size调小，重新训练如未解决则执行下一步。 替换深度学习训练加速的工具或增加zero等级，可参考各个模型深度学习训练加速框

查看更多 →

特定任务的过程，适用于需要个性化定制模型或者在特定任务上追求更高性能表现的场景。这是通过在与任务相关的微调数据集上训练模型来实现的，所需的微调量取决于任务的复杂性和数据集的大小。在深度学习中，微调用于改进预训练模型的性能。 支持将平台资产中心的部分模型作为微调前基础模型，也可以选

查看更多 →

服务，基于脱敏数据，训练深度学习或机器学习模型，形成相关的验证报告。简单场景工作量预计不超过17人天 300,000.00 每套 AI算法原型开发-标准版 对业务场景为普通场景的企业或政府单位进行算法原型开发或者优化服务，基于脱敏数据，训练深度学习或机器学习模型，形成相关的验证报告。普通场景工作量预计不超过18人天

查看更多 →

能会发现还缺少某一部分数据源，反复调整优化。 训练模型 俗称“建模”，指通过分析手段、方法和技巧对准备好的数据进行探索分析，从中发现因果关系、内部联系和业务规律，为商业目的提供决策参考。训练模型的结果通常是一个或多个机器学习或深度学习模型，模型可以应用到新的数据中，得到预测、评价等结果。

查看更多 →

基本概念 AI引擎 可支持用户进行机器学习、深度学习、模型训练作业开发的框架，如Tensorflow、Spark MLlib、MXNet、PyTorch、华为自研AI框架MindSpore等。 数据集 某业务下具有相同数据格式的数据逻辑集合。 特征操作 特征操作主要是对数据集进行特征处理。

查看更多 →

0中的Keras高层接口及TensorFlow2.0实战 深度学习预备知识 介绍学习算法，机器学习的分类、整体流程、常见算法，超参数和验证集，参数估计、最大似然估计和贝叶斯估计 深度学习概览 介绍神经网络的定义与发展，深度学习的训练法则，神经网络的类型以及深度学习的应用 图像识别、 语音识别 、 机器翻译 编程实验

查看更多 →

Token计算器”。 NLP大模型训练类型选择建议 平台针对NLP大模型提供了两种训练类型，包括预训练、微调，二者区别详见表3。 表3 预训练、微调训练类型区别 训练方式 训练目的 训练数据 模型效果 应用场景举例 预训练 关注通用性：预训练旨在让模型学习广泛的通用知识，建立词汇、句法

查看更多 →

TOPS 机器学习、深度学习、训练推理、科学计算、地震分析、计算金融学、渲染、多媒体编解码。 支持开启/关闭超线程功能，详细内容请参见开启/关闭超线程。 推理加速型 Pi1 NVIDIA P4（GPU直通） 2560 5.5TFLOPS 单精度浮点计算 机器学习、深度学习、训练推理、科

查看更多 →

保存根路径 单击选择训练结果在OBS中的保存根路径，训练完成后，会将模型和日志文件保存在该路径下。该路径不能包含中文。 深度网络因子分解机-DeepFM 深度网络因子分解机，结合了因子分解机和深度神经网络对于特征表达的学习，同时学习高阶和低阶特征组合，从而达到准确地特征组合学习，进行精准推

查看更多 →

选择训练数据中的部分时间数据，训练数据集尽可能多一些。 验证集 选择验证集中的部分时间数据，验证集数据不能跟训练集数据重合。 层次 设置训练数据的层次信息。在“预训练”场景中，可以添加或去除高空层次，训练任务将根据配置的层次信息重新训练模型。 高空变量 设置训练数据的高空变量信息。在“预训练”场景中，

查看更多 →

迁移学习 如果当前数据集的特征数据不够理想，而此数据集的数据类别和一份理想的数据集部分重合或者相差不大的时候，可以使用特征迁移功能，将理想数据集的特征数据迁移到当前数据集中。 进行特征迁移前，请先完成如下操作： 将源数据集和目标数据集导入系统，详细操作请参见数据集。 创建迁移数据

查看更多 →

可见范围内的学员在学员端可看见此项目并可以进行学习，学习数据可在学习项目列表【数据】-【自学记录】查看。 学习设置： 防作弊设置项可以单个项目进行单独设置，不再根据平台统一设置进行控制。 文档学习按浏览时长计算，时长最大计为：每页浏览时长*文档页数；文档学习按浏览页数计算，不计入学习时长。 更多设置：添加协同人

查看更多 →

学习目标 掌握座席侧的前端页面开发设计。 父主题： 开发指南

查看更多 →

选择所需微调的基础模型。 训练参数 数据集 训练数据集。 自定义L1预训练模型目录 自定义预训练模型所在的OBS路径。 训练轮数 表示完成全部训练数据集训练的次数。每个轮次都会遍历整个数据集一次。 是否使用自定义L1预训练模型 是否使用自定义预训练模型进行训练，模型为用户与服务共建，详情请联系客服。

查看更多 →

调整参数和超参数。 神经网络中：学习率、学习衰减率、隐藏层数、隐藏层的单元数、Adam优化算法中的β1和β2参数、batch_size数值等。 其他算法中：随机森林的树数量，k-means中的cluster数，正则化参数λ等。 增加训练数据作用不大。 欠拟合一般是因为模型的学习能力不足，一味地增加数据，训练效果并不明显。

查看更多 →

在下拉列表中选择数据集版本。 训练数据比例 填写训练数据比例，如果填为0，则任务不执行训练阶段。 训练数据比例是指用于训练模型的数据在完整数据集中所占的比例。 在实际应用中，训练数据比例的选择取决于许多因素，例如可用数据量、模型复杂度和数据的特征等。通常情况下，会选择较大的训练数据比例，以便训练出更准确

查看更多 →

Online中使用TensorFlow和Jupyter Notebook完成神经网络模型的训练，并利用该模型完成简单的图像分类。 父主题： 基于CodeArts IDE Online、TensorFlow和Jupyter Notebook开发深度学习模型

查看更多 →

（计算空泡），从而提高训练效率。 学习率预热 不同的学习率调度器（决定什么阶段用多大的学习率）有不同的学习率调度相关超参，例如线性调度可以选择从一个初始学习率lr-warmup-init开始预热。您可以选择多少比例的训练迭代步使用预热阶段的学习率。不同的训练框架有不同的参数命名，需要结合代码实现设置对应的参数。

查看更多 →

力，保障用户训练作业的长稳运行 提供训练作业断点续训与增量训练能力，即使训练因某些原因中断，也可以基于checkpoint接续训练，保障需要长时间训练的模型的稳定性和可靠性，避免重头训练耗费的时间与计算成本 支持训练数据使用SFS Turbo文件系统进行数据挂载，训练作业产生的中间和结果等数据可以直接高速写入到SFS

查看更多 →

重新训练 对第一次训练无影响，仅影响任务重跑。 “是”：清空上一轮的模型结果后重新开始训练。 “否”：导入上一轮的训练结果继续训练。适用于欠拟合的情况。 批量大小 一次训练所选取的样本数。 训练数据集切分数量 将整个数据集切分成多个子数据集，依次训练，每个epoch训练一个子数据集。

查看更多 →

从而提供更好的稳定性和可靠性，在大模型训练和推理以及权重存储方面更受欢迎。 FP16：用于深度学习训练和推理过程中，可以加速计算并减少内存的占用，对模型准确性的影响在大多数情况下较小。与BF16相比在处理非常大或非常小的数值时遇到困难，导致数值的精度损失。 综上所述，BF16因其

查看更多 →