mg_hf.sh脚本，自定义环境变量的值，并在脚本的首行中添加 cd /home/ma-user/ws/llm_train/AscendSpeed/ModelLink 命令，随后运行该脚本。 其中环境变量详细介绍如下： 表1 权重转换脚本中的环境变量 参数 示例 参数说明 $1 hf2hg、mg2hf

查看更多 →

mg_hf.sh脚本，自定义环境变量的值，并在脚本的首行中添加 cd /home/ma-user/ws/llm_train/AscendSpeed/ModelLink 命令，随后运行该脚本。 其中环境变量详细介绍如下： 表1 权重转换脚本中的环境变量 参数 示例 参数说明 $1 hf2hg、mg2hf

查看更多 →

mg_hf.sh脚本，自定义环境变量的值，并在脚本的首行中添加 cd /home/ma-user/ws/llm_train/AscendSpeed/ModelLink 命令，随后运行该脚本。 其中环境变量详细介绍如下： 表1 权重转换脚本中的环境变量 参数 示例 参数说明 $1 hf2hg、mg2hf

查看更多 →

mg_hf.sh脚本，自定义环境变量的值，并在脚本的首行中添加 cd /home/ma-user/ws/llm_train/AscendSpeed/ModelLink 命令，随后运行该脚本。 其中环境变量详细介绍如下： 表1 权重转换脚本中的环境变量 参数 示例 参数说明 $1 hf2hg、mg2hf

查看更多 →

--model-type：模型类型。 --loader：选择对应加载模型脚本的名称。 --saver：选择模型保存脚本的名称。 --tensor-model-parallel-size：${TP}张量并行数，需要与训练脚本中的TP值配置一样。 --pipeline-model-paralle

查看更多 →

为0时，不会返回此解析记录结果。 当您的网站拥有多台 服务器 ，每台服务器具有独立的IP地址。通过解析的负载均衡可以实现将不同用户的访问请求按比例分配到各个服务器上。 例如，某网站的 域名 为“example.com”，部署了3台服务器，对应的IP地址分别为：192.168.1.1、192

查看更多 →

rt_mg_hf.sh 脚本，自定义环境变量的值，并运行该脚本。其中环境变量详细介绍如下： 表1 权重转换脚本中的环境变量 参数 示例 参数说明 $1 hf2hg、mg2hf 运行 2_convert_mg_hf.sh 时，需要附加的参数值。如下： hf2hg：用于Hugging

查看更多 →

参考创建我的模型，用待更新的模型权重文件新建一个我的模型。关键参数请参见表1。 表1 创建模型的关键参数说明 参数 说明 来源模型 选择和待升级的模型服务的“部署模型”同一个模型框架。 权重设置与词表 选择“自定义权重”。 选择自定义权重路径 选择存放待更新的模型权重文件的OBS路径，必须选择到模型文件夹。

查看更多 →

在左侧导航栏，选择“DN管理”页签，单击上方的“设置读权重”。 图1 DN管理 设置实例的读权重。 在批量设置的弹窗中，“同步”功能可以用来将第一个实例的读权重设置同步到其他的实例上。此操作需满足所有实例的只读实例数量一致才可以实行。 如果有实例的只读实例数量与其他实例不一致，则无法使

查看更多 →

为0时，不会返回此解析记录结果。 当您的网站拥有多台服务器，每台服务器具有独立的IP地址。通过解析的负载均衡可以实现将不同用户的访问请求按比例分配到各个服务器上。 例如，某网站的域名为“example.com”，部署了3台服务器，对应的IP地址分别为：192.168.1.1、192

查看更多 →

--model-type：模型类型。 --loader：权重转换要加载检查点的模型名称。 --tensor-model-parallel-size：张量并行数，需要与训练脚本中的配置一样。 --pipeline-model-parallel-size：流水线并行数，需要与训练脚本中的配置一样。 --saver：检查模型保存名称。

查看更多 →

推理前的权重合并转换 模型训练完成后，训练的产物包括模型的权重、优化器状态、loss等信息。这些内容可用于断点续训、模型评测或推理任务等。 在进行模型评测或推理任务前，需要将训练后生成的多个权重文件合并，并转换成Huggingface格式的权重文件。 权重文件的合并转换操作都要求

查看更多 →

推理前的权重合并转换 模型训练完成后，训练的产物包括模型的权重、优化器状态、loss等信息。这些内容可用于断点续训、模型评测或推理任务等。 在进行模型评测或推理任务前，需要将训练后生成的多个权重文件合并，并转换成Huggingface格式的权重文件。 权重文件的合并转换操作都要求

查看更多 →

推理前的权重合并转换 模型训练完成后，训练的产物包括模型的权重、优化器状态、loss等信息。这些内容可用于断点续训、模型评测或推理任务等。 在进行模型评测或推理任务前，需要将训练后生成的多个权重文件合并，并转换成Huggingface格式的权重文件。 权重文件的合并转换操作都要求

查看更多 →

sh脚本，自定义环境变量的值，并在脚本的首行中添加 cd /home/ma-user/work/llm_train/AscendSpeed/ModelLink 命令，随后在Notebook中运行该脚本。 其中环境变量详细介绍如下： 表1 权重转换脚本中的环境变量 参数 示例 参数说明

查看更多 →

推理前的权重合并转换 模型训练完成后，训练的产物包括模型的权重、优化器状态、loss等信息。这些内容可用于断点续训、模型评测或推理任务等。 在进行模型评测或推理任务前，需要将训练后生成的多个权重文件合并，并转换成Huggingface格式的权重文件。 权重文件的合并转换操作都要求

查看更多 →

</WebsiteConfiguration> 响应消息头 该请求的响应消息使用公共消息头，具体请参考表1。 响应消息元素 在此请求返回的响应消息体中包含的配置元素与设置桶的网站配置请求的请求消息元素一致，见请求消息元素。 错误响应消息 此请求可能的特殊错误如下表1描述。 表1 特殊错误 错误码 描述

查看更多 →

PrefixWith的内容。 例如： 想把所有对docs（目录下的对象）的请求重定向到documents（目录下的对象），可以将Condition中的KeyPrefixEquals设置为docs，Redirect中的ReplaceKeyPrefixWith设置为documents。那么对于对象名称为"docs/a

查看更多 →

删除桶的网站配置 功能介绍 删除指定桶的网站配置信息。 要正确执行此操作，需要确保执行者有DeleteBucketWebsite权限。默认情况下只有桶的所有者可以执行此操作，也可以通过设置桶策略或用户策略授权给其他用户。 请求消息样式 1 2 3 4 DELETE /?website

查看更多 →

} else { fmt.Println(err) } } 更多编程语言的SDK代码示例，请参见 API Explorer 的代码示例页签，可生成自动对应的SDK代码示例。 状态码 状态码 描述 200 Success. 400 Client error.

查看更多 →

修改读写分离权重 功能介绍 修改指定实例的读写分离权重。 该接口计划于2024-04-30下线。 调用接口前，您需要了解API 认证鉴权。 调试 您可以在API Explorer中调试该接口。 接口约束 该接口仅支持RDS for PostgreSQL 11、RDS for PostgreSQL

查看更多 →