数据预处理中的环境变量 环境变量 示例 参数说明 RUN_TYPE pretrain、sft、lora 数据预处理区分： 预训练场景下数据预处理，默认参数：pretrain 微调场景下数据预处理，默认：sft / lora ORIGINAL_TRAIN_DATA_PATH /home/ma-use

查看更多 →

迁移后应用出图效果相比GPU无法对齐怎么办 模型精度有问题怎么办？ 模型转换失败时如何查看日志和定位原因？ Stable Diffusion WebUI如何适配？ LoRA适配流是怎么样的？ 数据类型不匹配问题如何处理？ 父主题： AIGC推理业务昇腾迁移指导

查看更多 →

/data/train-00000-of-00001-a09b74b3ef9c3b56.parquet，数据大小：24M左右。 SFT和LoRA微调使用的Alpaca数据集下载：https://huggingface.co/datasets/QingyiSi/Alpaca-CoT

查看更多 →

/data/train-00000-of-00001-a09b74b3ef9c3b56.parquet，数据大小：24M左右。 SFT和LoRA微调使用的Alpaca数据集下载：https://huggingface.co/datasets/QingyiSi/Alpaca-CoT

查看更多 →

dense_h_to_4h,dense,query_key_value lora_rank 秩 LoRA微调中的秩。 lora_alpha 缩放系数 LoRA微调中的缩放系数。 lora_dropout 遗忘率 LoRA微调中的dropout比例。 表4 高阶参数配置说明 类别 参数英文名

查看更多 →

必填。表示训练类型，根据实际训练任务类型选择。取值说明： pretrain：表示预训练 retrain：表示断点续训 sft：表示SFT微调训练 lora：表示LoRA微调训练 MASTER_ADDR localhost 多机必填。主节点IP地址，多台机器中指定一个节点ip为主节点ip，一般指定第一个节点ip为主节点IP。

查看更多 →

任意并行切分策略的Megatron权重 格式转化为 HuggingFace权重 （该场景一般用于将训练好的megatron模型：预训练、lora、sft 重新转回HuggingFace格式）为下一步推理使用准备，无推理任务忽略此章节,一般训练都是多卡分布式训练权重结果文件为多个且

查看更多 →

当训练作业发生故障中断本次作业时，代码可自动从训练中断的位置接续训练，加载中断生成的checkpoint，中间不需要改动任何参数（支持预训练、LoRA微调、SFT微调）。 如果要使用自动重启功能，资源规格必须选择八卡规格。 当前功能还处于试验阶段，只有llama3-8B/70B适配。 父主题：

查看更多 →

云服务器 规划 SAP云 服务器 规格 在申请SAP E CS 之前，请参考SAP标准Sizing方法进行SAPS值评估，并根据Sizing结果申请云端ECS服务器资源，详细信息请参考SAP Quick Sizer。 SAP 各组件最低硬盘空间、 RAM ，以及软件的最低需求请参考SAP官方文档SAP

查看更多 →

在左侧导航栏，选择“云服务器列表”。 单击右上方的“购买云服务器”，进入“购买云服务器”页面。 图1 购买云服务器 在“购买云服务器”页面，根据界面提示填写待创建云服务器的参数信息： 应用：选择待创建云服务器上需要部署的应用。 其他参数：参数说明如表2所示。 图2 购买云服务器-添加云服务器

查看更多 →

云服务器管理 购买云服务器 纳管云服务器 查看云服务器详情 查看/卸载/添加应用 安装XR Linker插件 修改会话路数 创建镜像 批量创建云服务器

查看更多 →

云服务器规格 云服务器一般分为 弹性云服务器 和裸金属服务器，您可以根据实际需要选择规格，并在云服务上部署SAP应用。 弹性云服务器 表1 弹性云服务器的规格 类型 规格名称 CPUs 内存 (GB) 高性能计算型 h1.8xlarge.4 32vCPU 128 h1.4xlarge

查看更多 →

后端云服务器 权限 对应API接口 授权项（Action） IAM项目（Project） 企业项目（Enterprise Project） 创建member POST /v3/{project_id}/elb/pools/{pool_id}/members elb:members:create

查看更多 →

重启云服务器 功能介绍 重启单台云服务器。 调试 您可以在 API Explorer 中调试该接口。 URI POST /v2.1/{project_id}/servers/{server_id}/action 参数说明请参见表1。 表1 参数说明 参数 是否必选 描述 project_id

查看更多 →

关闭云服务器 功能介绍 关闭单台云服务器。 调试 您可以在API Explorer中调试该接口。 URI POST /v2.1/{project_id}/servers/{server_id}/action 参数说明请参见表1。 表1 参数说明 参数 是否必选 描述 project_id

查看更多 →

修改云服务器 功能介绍 修改云服务器信息，目前支持修改云服务器名称和描述。 该接口支持企业项目细粒度权限的校验，具体细粒度请参见 ecs:cloudServers:updateServer 接口约束 该接口仅支持修改云服务器的名称，如需修改云服务器的hostname，请参考怎样使修改的静态主机名永久生效？。

查看更多 →

云服务器状态 ECS API中云服务器实例存在三种状态： status，云服务器实例当前状态信息，由OS-EXT-STS:vm_state和OS-EXT-STS:task_state综合生成。 OS-EXT-STS:vm_state，云服务器扩展属性，标识云服务器实例当前处于完成某个操作的稳定状态。

查看更多 →

云服务器迁移 最佳实践- 主机迁移 跨账号跨区域迁移云服务器 XEN实例迁移最佳实践

查看更多 →

对后自动搜索。 图13 按标签搜索云服务器 多个标签搜索 在云服务器列表页搜索的输入框中选择“标签”，选择多个标签键值对后自动搜索。 按“与”的关系搜索，搜索同时具备这两个标签的云服务器。 图14 按标签搜索云服务器 父主题： 查看弹性云服务器信息

查看更多 →

下一步的推理任务请参考文档《开源大模型基于DevServer的推理通用指导》。 将多个权重文件合并为一个文件并转换格式 该场景一般用于将预训练、SFT或LoRA训练好的Megatron模型重新转回HuggingFace格式。 本章节以Llama2-70B为例，对于Llama2-7B和Llama2

查看更多 →

介绍如何进行预训练，包括训练数据处理、超参配置、训练任务、性能查看。 微调训练 SFT全参微调 介绍如何进行SFT全参微调、超参配置、训练任务、性能查看。 LoRA微调训练 介绍如何进行LoRA微调、超参配置、训练任务、性能查看。 父主题： 主流开源大模型基于DevServer适配PyTorch NPU训练指导（6

查看更多 →