--fp16 开始训练。 本文是单机单卡训练，使用预训练脚本参数控制： GPUS_PER_NODE=1 NNODES=1 NODE_RANK=0 执行以下命令，开始预训练。 nohup sh ./pretrain_gpt2.sh & 图3 开始预训练 实时查看训练日志，监控程序。 tail

查看更多 →

Cluster使用的都是专属资源池。 MoXing MoXing是ModelArts自研的组件，是一种轻型的分布式框架，构建于TensorFlow、PyTorch、MXNet、MindSpore等深度学习引擎之上，使得这些计算引擎分布式性能更高，同时易用性更好。MoXing包含很多组件，其中MoXing Fra

查看更多 →

模型训练 使用特征工程处理后生成的训练集进行模型训练。 创建联邦学习训练任务（简易编辑器） 单击简易编辑器界面右上角的“训练”。 进入“训练任务配置”界面，如图1所示。 图1 训练任务配置 参数说明，如表1所示。 表1 参数配置 区域 参数名称 参数描述 任务说明 任务名称 训练任务的名称。

查看更多 →

1”时，创建的是单机训练作业，ModelArts只会在一个节点上启动一个训练容器，该训练容器独享所选规格的计算资源。 当“计算节点个数 > 1”时，创建的是分布式训练作业，更多分布式训练配置请参见分布式训练功能介绍。 作业优先级 使用专属资源池创建训练作业时，支持设置训练作业的优先级。

查看更多 →

使用STS SDK（NUWA框架） 初始化STS NUWA中已经自带了STS插件，只需要在nuwa-module-config.yml文件中进行如下配置，即可初始化STS。这种方式可以保证在其他中间件、Cloud Map之前初始化STS，保证组件启动顺序正确。 nuwa: security:

查看更多 →

ch NPU的LoRA训练指导（6.3.907） SD1.5&SDXL Diffusers框架基于DevServer适配PyTorch NPU训练指导（6.3.907） SD1.5&SDXL Koyha框架基于DevServer适配PyTorch NPU训练指导（6.3.907）

查看更多 →

分布式 Oracle数据库兼容性概述 SQL的基本元素 伪列 操作符 表达式 条件 常见的SQL DDL子句 SQL查询和子查询 PL/SQL语言 系统函数 系统视图 高级包 父主题： 与Oracle兼容性说明

查看更多 →

分布式 MySQL数据库兼容MySQL模式 父主题： 与MySQL兼容性说明

查看更多 →

训练 上传数据至OBS并预热到SFS Turbo中 创建训练任务 父主题： 实施步骤

查看更多 →

使用预置镜像制作 自定义镜像 用于训练模型 使用预置框架构建自定义镜像原理介绍 如果先前基于预置框架且通过指定代码目录和启动文件的方式来创建的训练作业；但是随着业务逻辑的逐渐复杂，您期望可以基于预置框架修改或增加一些软件依赖的时候，可以使用预置框架构建自定义镜像，即在创建训练作业页面选择预置框架名称后，在预置框架版本下拉列表中选择“自定义”。

查看更多 →

数据治理 组织架构框架 数据治理可以采用集中化（全时投入）和虚拟化（部分投入）混合的组织模式。结合具备专业技能的专职数据治理人员和熟悉业务和IT系统的已有人员，在运作上实现数据治理团队的快速构建和能力导入，捆绑业务、IT开发和数据团队利用已有人员熟悉度快速切入重点工作。 在工作内容和责任上具体到三层的工作组织：

查看更多 →

模型验证 模型验证是基于新的数据集或超参，对模型训练服务已打包的模型进行验证，根据验证报告判断当前模型的优劣。 云端推理框架 提供模型云端运行框架环境，用户可以在线验证模型推理效果，无须从零准备计算资源、搭建推理框架，只需将模型包加载到云端推理框架，一键发布成云端Web Service推

查看更多 →

local_rank为 -1。 多卡分布式执行 PyTorch框架下常见的多卡分布式执行主要包括DataParallel（DP） 和Distributed Data Parallel （DDP）。torch_npu环境下针对DDP场景的多卡训练有提供支持，具体请参见迁移单卡脚本为

查看更多 →

准备模型训练代码 预置框架启动文件的启动流程说明 开发用于预置框架训练的代码 开发用于自定义镜像训练的代码 父主题： 使用ModelArts Standard训练模型

查看更多 →

预训练、SFT全参微调训练、LoRA微调训练 介绍主流的开源大模型Llama系列、Qwen系列、Yi系列、Baichuan系列、ChatGLM系列等基于ModelArts DevServer的训练过程，训练使用PyTorch框架和昇腾NPU计算资源。训练后的模型可用于推理部署，搭建大模型问答助手。

查看更多 →

文档导读 本文档包含了使用模型训练服务前的准备工作、如何使用模型训练服务导入数据、特征操作、模型训练、模型打包、模型验证以及云端推理框架的操作指导，用户可以根据文档导读查找需要的内容。 表1 文档导读 阶段 章节 了解模型训练服务 训练服务简介 模型训练服务的操作流程简介及访问服务的流程

查看更多 →

SD1.5&SDXL Koyha框架基于DevServer适配PyTorch NPU训练指导（6.3.908） 训练场景和方案介绍 准备镜像环境 Finetune训练 LoRA训练 父主题： AIGC模型训练推理

查看更多 →

Toolkit提交训练作业时，常用框架选择训练作业支持的版本，具体支持哪些版本请参考训练作业支持的AI引擎。PyTorch的举例：不要选PyTorch-1.0.0、PyTorch-1.3.0、PyTorch-1.4.0。选择如下图： 图1 选择训练作业支持的AI框架 父主题： PyCharm

查看更多 →

SDK参考》 MoXing MoXing是ModelArts自研的组件，是一种轻型的分布式框架，构建于TensorFlow、PyTorch、MXNet、MindSpore等深度学习引擎之上，使得这些计算引擎分布式性能更高，同时易用性更好。MoXing包含很多组件，其中MoXing Fra

查看更多 →

将测试框架集成到项目中 CodeArts IDE提供了与JUnit和TestNG测试框架的集成，让您轻松运行和调试Java测试用例。在开始之前，请确保为项目定义了JDK，如使用Java项目中所述。 您可以通过在pom.xml（对于Maven）或build.gradle（对于Gra

查看更多 →

使用Spring Cloud框架实现应用开发 Spring Cloud概述 准备工作 开发指导 实践案例

查看更多 →