模型训练 模型训练中除了数据和算法外，开发者花了大量时间在模型参数设计上。模型训练的参数直接影响模型的精度以及模型收敛时间，参数的选择极大依赖于开发者的经验，参数选择不当会导致模型精度无法达到预期结果，或者模型训练时间大大增加。 为了降低开发者的专业要求，提升开发者模型训练的开发

查看更多 →

预训练 预训练数据处理 预训练任务 断点续训练 查看日志和性能 父主题： LLama2系列模型基于DevServer适配PyTorch NPU训练指导（6.3.904）

查看更多 →

nizer文件，具体请参见训练tokenizer文件说明。 Step2 创建预训练任务 创建训练作业，并自定义名称、描述等信息。选择自定义算法，启动方式自定义，以及上传的镜像。训练脚本中会自动执行训练前的权重转换操作和数据处理操作。 图1 选择镜像 训练作业启动命令中输入： cd

查看更多 →

预训练 预训练数据处理 预训练超参配置 预训练任务 断点续训练 查看日志和性能 父主题： Baichuan2-13B模型基于DevServer适配PyTorch NPU训练指导（6.3.904）

查看更多 →

“从环境外部访问本组件”页面，选择“负载均衡配置”，并单击“添加负载均衡配置”。 在“新增负载均衡配置”页面，参考表1进行参数配置。 表1 负载均衡外网访问配置 参数 参数说明 负载均衡器 支持“独享型”和“内置负载均衡器”。 选择“内置负载均衡器”，只支持基于EIP公网访问。 选

查看更多 →

SLB组件间的关系如图1所示。 图1 组件间的关系 所有的组件必须归属于同一个自有服务下，才能绑定。 SLB实例配置依赖SLB实例，比例关系为1:1。 SLB监听依赖SLB实例，1个SLB实例可以对应多个SLB监听。 转发策略依赖SLB监听，比例关系为1:1。 灰度服务依赖转发策略，一个转发策略实例可以对应多

查看更多 →

Flexus负载均衡 概述 购买Flexus负载均衡实例 添加监听器 添加并解析 域名 父主题： Flexus L实例 及X实例

查看更多 →

断点续训练和增量训练 什么是断点续训练和增量训练 断点续训练是指因为某些原因（例如容错重启、资源抢占、作业卡死等）导致训练作业还未完成就被中断，下一次训练可以在上一次的训练基础上继续进行。这种方式对于需要长时间训练的模型而言比较友好。 增量训练是指增加新的训练数据到当前训练流程中，扩展当前模型的知识和能力。

查看更多 →

Linux/Unix系统 前提条件 在使用本工具前，您需完成注册华为帐号并开通华为云，开通OBS，并创建一个可用的桶。 已下载obsftp工具。 工具下载地址：https://github.com/huaweicloud-obs/obsftp 通常Linux/unix系统已安装P

查看更多 →

Linux系统盘镜像创建过程 步骤说明如下： 准备符合平台要求的外部镜像文件，请参考准备镜像文件（Linux）。 上传外部镜像文件到OBS个人桶中，请参考上传镜像文件（Linux）。 通过管理控制台选择上传的镜像文件，并将镜像文件注册为私有镜像，请参考注册镜像（Linux）。 私

查看更多 →

注册镜像（Linux） 操作场景 镜像文件上传到OBS桶以后，请参考本节指导注册镜像。 操作步骤 登录IMS控制台。 登录管理控制台。 选择“计算 > 镜像服务 ”。 进入镜像服务页面。 创建系统盘镜像。 单击右上角的“创建私有镜像”，进入创建私有镜像页面。 根据界面要求填写如下信息：

查看更多 →

新建训练工程、联邦学习工程、训练服务或超参优化服务。 名称 模型训练名称。 模型训练工程描述 对模型训练工程的描述信息。 创建时间 训练工程、联邦学习工程、训练服务或者超参优化服务的创建时间。 类型 模型训练的类型。 包含如下选项： 模型训练 联邦学习 训练服务 优化服务 创建者 创建训练工程、联邦

查看更多 →

训练前卡死 作业为多节点训练，且还未开始训练时发生卡死，可以在代码中加入os.environ["NCCL_DEBUG"] = "INFO"，查看NCCL DEBUG信息。 问题现象1 日志中还未出现NCCL DEBUG信息时已卡死。 解决方案1 检查代码，检查是否有参数中未传入“

查看更多 →

训练中途卡死 问题现象1 检测每个节点日志是否有报错信息，某个节点报错但作业未退出导致整个训练作业卡死。 解决方案1 查看报错原因，解决报错。 问题现象2 作业卡在sync-batch-norm中或者训练速度变慢。pytorch如果开了sync-batch-norm，多机会慢，因

查看更多 →

进一步的调优）。 针对用户自己编写训练脚本或 自定义镜像 方式创建的训练作业，则需要在您的训练代码中添加评估代码，才可以在训练作业结束后查看相应的评估诊断建议。 只支持验证集的数据格式为图片 目前，仅如下常用框架的训练脚本支持添加评估代码。 TF-1.13.1-python3.6 TF-2

查看更多 →

ckpt恢复中断的训练 在容错机制下，如果因为硬件问题导致训练作业重启，用户可以在代码中读取预训练模型，恢复至重启前的训练状态。用户需要在代码里加上reload ckpt的代码，使能读取训练中断前保存的预训练模型。具体请参见断点续训练和增量训练。 父主题： 训练故障自动恢复

查看更多 →

多维度衡量模型质量。让自动驾驶研发更便捷。训练服务的开发流程如下： 图1 训练服务的开发流程 训练服务操作引导如下： 算法管理：负责管理用户上传的符合平台规范的算法。 训练任务：用户选择训练算法和训练数据集创建训练任务进行训练。 模型评测：负责管理评测脚本、评测任务和评测对比任务。

查看更多 →

镜像制作（训练） Octopus平台依赖算子镜像内的/bin/bash、stdbuf、tee软件，请确保基础镜像内包含上述软件且能通过PATH找到。 一般情况下，训练与评测定义为同一个引擎，主要包括算法或评测脚本运行所需要的基本依赖环境。用户可使用命令行模式或Dockerfile

查看更多 →

在左侧列表中单击“云耀负载均衡 ELB”，可查看到套餐包含的负载均衡主要信息。 主要信息 说明 名称/ID 负载均衡名称及ID。 单击图标，可对负载均衡ID进行复制。 运行状态 负载均衡功能默认开启，状态为“运行中”。当云耀 云服务器 L实例到期后，将暂停负载均衡对 服务器 的服务。 监听器

查看更多 →

负载均衡器 创建负载均衡器 查询负载均衡列表 查询负载均衡详情 查询负载均衡状态树 更新负载均衡器 删除负载均衡器 父主题： API（V2）

查看更多 →

负载均衡器 权限 对应API接口 授权项（Action） IAM项目（Project） 企业项目（Enterprise Project） 创建ELB POST /v2/{project_id}/elb/loadbalancers elb:loadbalancers:create √

查看更多 →