SEED 1234 随机种子数。每次数据采样时，保持一致。 模型参数设置规定 TP张量并行 、PP流水线并行、CP context并行的参数设置：TP×PP×CP的值要被NPU数量（word_size）整除。 TP×CP的值要被模型参数中 num_attention_heads 整除。

查看更多 →

llama2-7b pretrain/sft 4096 TP(tensor model parallel size)=1 PP(pipeline model parallel size)=4 1 1*节点 & 8*Ascend lora TP(tensor model parallel size)=1

查看更多 →

SEED 1234 随机种子数。每次数据采样时，保持一致。 模型参数设置规定 TP张量并行 、PP流水线并行、CP context并行的参数设置：TP×PP×CP的值要被NPU数量（word_size）整除。 TP×CP的值要被模型参数中 num_attention_heads 整除。

查看更多 →

SEED 1234 随机种子数。每次数据采样时，保持一致。 模型参数设置规定 TP张量并行 、PP流水线并行、CP context并行的参数设置：TP×PP×CP的值要被NPU数量（word_size）整除。 TP×CP的值要被模型参数中 num_attention_heads 整除。

查看更多 →

这些时间按从小到大的顺序进行排序，取第75%的那个值作为TP75的值。 TP90：指在一个时间段内（如10s），统计该请求每次响应所消耗的时间，并将这些时间按从小到大的顺序进行排序，取第90%的那个值作为TP90的值。 TP95：指在一个时间段内（如10s），统计该请求每次响应所

查看更多 →

当参数值>1时，保存模型版本次数与SAVE_TOTAL_LIMIT的值一致。 模型参数设置规定 TP张量并行 、PP流水线并行、CP context并行的参数设置：TP×PP×CP的值要被NPU数量（word_size）整除。 TP×CP的值要被模型参数中 num_attention_heads 整除。

查看更多 →

llama2-7b pretrain/sft 4096 TP(tensor model parallel size)=1 PP(pipeline model parallel size)=4 1 1*节点 & 8*Ascend lora TP(tensor model parallel size)=1

查看更多 →

错误信息，接口错误时有值，正常调用时为空 stateCode String 响应状态 "0"成功 其他值失败 "104":指令Id个数不能超过100 "107":指令Id为空 "108":指令Id:xx不正确 "109":指令Id:xx不是过期状态 请求示例 { "instructionIds":"912" } 响应示例

查看更多 →

登录指令提示过期该怎么办？ 清除浏览器缓存后重新生成登录指令即可，临时登录指令会在6个小时后失效。 父主题： 登录问题

查看更多 →

附录：指令微调训练常见问题 问题1：在训练过程中遇到NPU out of memory 解决方法： 将yaml文件中的per_device_train_batch_size调小，重新训练如未解决则执行下一步。 替换深度学习训练加速的工具或增加zero等级，可参考各个模型深度学习训

查看更多 →

10 表示训练间隔多少step，则会保存一次权重文件。 模型参数设置规定 TP张量并行 、PP流水线并行、CP context并行的参数设置：TP×PP×CP的值要被NPU数量（word_size）整除。 TP×CP的值要被模型参数中 num_attention_heads 整除。

查看更多 →

SEED 1234 随机种子数。每次数据采样时，保持一致。 模型参数设置规定 TP张量并行 、PP流水线并行、CP context并行的参数设置：TP×PP×CP的值要被NPU数量（word_size）整除。 TP×CP的值要被模型参数中 num_attention_heads 整除。

查看更多 →

SEED 1234 随机种子数。每次数据采样时，保持一致。 模型参数设置规定 TP张量并行 、PP流水线并行、CP context并行的参数设置：TP×PP×CP的值要被NPU数量（word_size）整除。 TP×CP的值要被模型参数中 num_attention_heads 整除。

查看更多 →

当参数值>1时，保存模型版本次数与SAVE_TOTAL_LIMIT的值一致。 模型参数设置规定 TP张量并行 、PP流水线并行、CP context并行的参数设置：TP×PP×CP的值要被NPU数量（word_size）整除。 TP×CP的值要被模型参数中 num_attention_heads 整除。

查看更多 →

为什么docker pull指令执行失败？ x509: certificate signed by unknown authority 问题现象：使用docker pull拉取镜像，报错“x509: certificate signed by unknown authority”。

查看更多 →

当参数值>1时，保存模型版本次数与SAVE_TOTAL_LIMIT的值一致。 模型参数设置规定 TP张量并行 、PP流水线并行、CP context并行的参数设置：TP×PP×CP的值要被NPU数量（word_size）整除。 TP×CP的值要被模型参数中 num_attention_heads 整除。

查看更多 →

本章节介绍如何获取docker容器引擎长期有效的登录指令以及containerd容器引擎长期推送、拉取镜像指令，长期有效登录指令的有效期为永久。 临时登录指令提示过期时，需要清除浏览器缓存后重新生成登录指令。 获取方式 下面来介绍如何获取docker容器引擎长期有效登录指令和获取containerd容器

查看更多 →

这些时间按从小到大的顺序进行排序，取第75%的那个值作为TP75的值。 TP90：指在一个时间段内（如10s），统计该请求每次响应所消耗的时间，并将这些时间按从小到大的顺序进行排序，取第90%的那个值作为TP90的值。 TP95：指在一个时间段内（如10s），统计该请求每次响应所

查看更多 →

请从模组厂商获取更多信息和支撑。 AT指令集 AT指令用于控制设备。如下AT命令仅供参考，具体命令集请向相应的模组厂商获取。 AT命令 作用 备注 AT+CMEE=1 报错查询。 标准AT指令 AT+CFUN=0 关机。设置IMEI和平台IP端口前要先关机。 标准AT指令 AT+CGSN=1 查

查看更多 →

访问华为云时，如何通过配置代理 服务器 访问华为云？ 主机迁移服务 工作原理如下图所示： 1、控制流：源端服务器和 主机迁移 服务端之间迁移指令的交互过程。 迁移指令交互包括： 步骤②：源端服务器上的迁移Agent向主机迁移服务注册自身连接状态，并将源端服务器信息上报到主机迁移服务，完成迁移可行性检查。

查看更多 →

+HMCON OK（连接成功） serverip：设备接入服务器地址或者BS服务器地址。 默认值：BS服务器地址 +HMCON ERR：code（连接失败，code表示失败原因码） serverport：设备接入服务器端口或者BS服务器端口。 默认值：MQ TTS 端口8883 - id：设备ID，最大长度256。

查看更多 →