张量并行数，需要与训练脚本中的TP值配置一样。 --pipeline-model-parallel-size：${PP}流水线并行数，需要与训练脚本中的PP值配置一样。 --load-dir：加载转换模型权重路径。 --save-dir : 权重转换完成之后保存路径。 --tokenizer-model

查看更多 →

有相当的哈希值并被分配到同一台后端 服务器 上，从而实现会话保持。 保持数据一致：一致性哈希算法将相同哈希值的请求调度到相同后端服务器上，保证多次请求数据的一致性。 均衡性要求较高：一致性哈希算法能够提供相对均衡的负载分配效果，减少后端服务器的负载差异。 缺点 后端服务器数量变动可能

查看更多 →

} 加载转换模型权重路径。 --save-dir : ${SAVE_DIR} 权重转换完成之后保存路径。 --tokenizer-model : ${TOKENIZER_PATH} tokenizer路径。 --add-qkv-bias : 为qkv这样的键和值添加偏差。 CON

查看更多 →

返回值 正常 返回值 说明 200 任务提交成功。 202 任务提交成功，当前系统繁忙，下发的任务会延迟处理。 204 任务提交成功。 异常 返回值 说明 400 Bad Request 服务器未能处理请求。 401 Unauthorized 被请求的页面需要用户名和密码。 403

查看更多 →

规则评估的资源类型 elb.members 规则参数 weight：后端 云服务器 的权重，请求将根据后端服务器组配置的负载均衡算法和后端云服务器的权重进行负载分发。 权重值越大，分发的请求越多。 取值范围：0-100。 父主题： 弹性负载均衡 ELB

查看更多 →

不同的服务器。 加权最少连接 将请求分发给（当前连接/权重）比值最小的后端服务器进行处理。 一致性哈希算法：源IP算法 对请求的特定字段进行一致性哈希计算，并根据计算的哈希值将请求均匀地分配到后端服务器中。相同哈希值的请求，将会被分配到相同的后端服务器，即使后端服务器组中的后端服务器个数在发生变化。

查看更多 →

加权轮询算法 在非0的权重下，负载均衡器会将请求按权重值的大小分配给所有的后端服务器，且在轮询时，权重大的后端服务器被分配的概率高。 当后端服务器的权重都设置为相等时，负载均衡器将按照简单的轮询策略分发请求。 加权最少连接 在非0的权重下，负载均衡器会通过 overhead=当前连接数/权重

查看更多 →

参数类型 描述 host 否 String 后端服务器地址 后端实例类型为ip时必填 最大长度：64 weight 否 Integer 权重值。 允许您对后端服务进行评级，权重值越大，转发到该云服务的请求数量越多。 最小值：0 最大值：10000 is_backup 否 Boolean

查看更多 →

-target-tensor-parallel-size：与后续微调TP值保持一致 -target-pipeline-parallel-size：与后续微调PP值保持一致 -load-dir：原始HuggingFace权重 -tokenizer-model:tokenizer路径 -save-dir:从

查看更多 →

张量并行数，需要与训练脚本中的TP值配置一样。 --pipeline-model-parallel-size：${PP}流水线并行数，需要与训练脚本中的PP值配置一样。 --load-dir：加载转换模型权重路径。 --save-dir : 权重转换完成之后保存路径。 --tokenizer-model

查看更多 →

E CS .ExtendParam 字段说明 表1 字段说明 属性 是否必选 参数类型 描述 CB_CSBS_BACKUP 否 string CB CSBS BACKUP 取值说明：用户自定义 使用建议：无 imageproductid 否 string 镜像产品ID 取值说明：用户自定义

查看更多 →

ECS.NICS 字段说明 表1 字段说明 属性 是否必选 参数类型 描述 subnetId 是 HuaweiCloud.VPC.Subnet.Id 待创建云服务器的网卡信息。 取值说明：需要指定云服务器所属虚拟私有云下已创建的子网（subnet）的ID，或通过连线VPC.Subnet来自动生成

查看更多 →

登录Windows ECS Windows ECS登录方式概述 通过控制台VNC登录Windows ECS 通过RDP文件登录Windows ECS 通过本地Windows主机登录Windows ECS 通过本地Linux主机登录Windows ECS 通过本地macOS主机登录Windows

查看更多 →

FTP FTP服务开放的端口，用于上传和下载文件。配置示例请参见在本地服务器远程连接云服务器上传或者下载文件（FTP）。 22 SSH SSH端口，用于远程连接Linux 弹性云服务器 。配置示例请参见通过本地服务器远程登录云服务器。 登录方法请参见Linux弹性云服务器登录方式概述。

查看更多 →

批量ECS操作 ECS操作为用户提供了管理ECS实例的能力，支持进行批量开机、关机、重启、切换操作系统、重装操作系统等操作。 批量开机 批量关机 批量重启 重装操作系统 切换操作系统 父主题： 资源运维

查看更多 →

部署到ECS 部署流程 部署验证 父主题： 部署插件能力

查看更多 →

ECS.SecurityGroup 字段说明 表1 字段说明 属性 是否必选 参数类型 描述 id 是 HuaweiCloud.VPC.SecurityGroup.Id 云服务器对应的安全组ID，会对创建云服务器中配置的网卡生效 取值说明：指定已有安全组的ID 取值约束：满足UUID规则，最大64位

查看更多 →

设置标签键和对应的标签值，指定一个或多个标签来选取实例。 选择多个标签时，按照“与”的关系搜索。 该方式对未来新增的实例也生效。 从CMDB中选择 输入搜索条件或关键字，从CMDB服务中选取实例。当前节点类型支持两种选择方式，静态IP和动态节点。 静态IP：可选中指定CMDB应用下的ECS实例。

查看更多 →

设置标签键和对应的标签值，指定一个或多个标签来选取实例。 选择多个标签时，按照“与”的关系搜索。 该方式对未来新增的实例也生效。 从CMDB中选择 输入搜索条件或关键字，从CMDB服务中选取实例。当前节点类型支持两种选择方式，静态IP和动态节点。 静态IP：可选中指定CMDB应用下的ECS实例。

查看更多 →

ECS磁盘概述 什么是云硬盘 云硬盘（Elastic Volume Service，EVS）可以为弹性云服务器提供高可靠、高性能、规格丰富并且可弹性扩展的块存储服务，满足不同场景的业务需求，适用于分布式文件系统、开发测试、 数据仓库 以及高性能计算等场景。 云硬盘的类型 不同类型云硬

查看更多 →

ECS实例概述 实例概述 实例即弹性云服务器，是由CPU、内存、操作系统、云硬盘组成的基础计算组件。 弹性云服务器创建成功后，您就可以像使用自己的本地PC或物理服务器一样，在云上使用弹性云服务器，打造一个高效、可靠、安全的计算环境。弹性云服务器的开通是自助完成的，您只需要指定CP

查看更多 →