调用接口的认证方式分为Token和AK/SK两种，如果您使用的Token方式，此参数为必填，请填写Token的值。Token获取方式，请参考获取用户Token。 响应消息 表4 响应参数 参数 参数类型 描述 url String 授权重定向URL。 请求示例 无 响应示例 { "url": "https://github

查看更多 →

--model-type：模型类型。 --loader：权重转换要加载检查点的模型名称。 --tensor-model-parallel-size：张量并行数，需要与训练脚本中的TP值配置一样。 --pipeline-model-parallel-size：流水线并行数，需要与训练脚本中的PP值配置一样。 --saver：检查模型保存名称。

查看更多 →

张量并行数，需要与训练脚本中的TP值配置一样。 --pipeline-model-parallel-size：${PP}流水线并行数，需要与训练脚本中的PP值配置一样。 --load-dir：加载转换模型权重路径。 --save-dir : 权重转换完成之后保存路径。 --tokenizer-model

查看更多 →

返回值 正常 返回值 说明 200 任务提交成功。 202 任务提交成功，当前系统繁忙，下发的任务会延迟处理。 204 任务提交成功。 异常 返回值 说明 400 Bad Request 服务器 未能处理请求。 401 Unauthorized 被请求的页面需要用户名和密码。 403

查看更多 →

在，该值为true，否则，该值为false。 请勿传入该字段。 name 否 String 后端 云服务器 名称。 最小长度：0 最大长度：255 weight 否 Integer 后端云服务器的权重，请求将根据pool配置的负载均衡算法和后端云服务器的权重进行负载分发。 权重值越大

查看更多 →

有相当的哈希值并被分配到同一台后端服务器上，从而实现会话保持。 保持数据一致：一致性哈希算法将相同哈希值的请求调度到相同后端服务器上，保证多次请求数据的一致性。 均衡性要求较高：一致性哈希算法能够提供相对均衡的负载分配效果，减少后端服务器的负载差异。 缺点 后端服务器数量变动可能

查看更多 →

-target-tensor-parallel-size：与后续微调TP值保持一致 -target-pipeline-parallel-size：与后续微调PP值保持一致 -load-dir：原始HuggingFace权重 -tokenizer-model:tokenizer路径 -save-dir:从

查看更多 →

张量并行数，需要与训练脚本中的TP值配置一样。 --pipeline-model-parallel-size：${PP}流水线并行数，需要与训练脚本中的PP值配置一样。 --load-dir：加载转换模型权重路径。 --save-dir : 权重转换完成之后保存路径。 --tokenizer-model

查看更多 →

规则评估的资源类型 elb.members 规则参数 weight：后端云服务器的权重，请求将根据后端服务器组配置的负载均衡算法和后端云服务器的权重进行负载分发。 权重值越大，分发的请求越多。 取值范围：0-100。 父主题： 弹性负载均衡 ELB

查看更多 →

不同的服务器。 加权最少连接 将请求分发给（当前连接/权重）比值最小的后端服务器进行处理。 一致性哈希算法：源IP算法 对请求的特定字段进行一致性哈希计算，并根据计算的哈希值将请求均匀地分配到后端服务器中。相同哈希值的请求，将会被分配到相同的后端服务器，即使后端服务器组中的后端服务器个数在发生变化。

查看更多 →

参数类型 描述 host 否 String 后端服务器地址 后端实例类型为ip时必填 最大长度：64 weight 否 Integer 权重值。 允许您对后端服务进行评级，权重值越大，转发到该云服务的请求数量越多。 最小值：0 最大值：10000 is_backup 否 Boolean

查看更多 →

返回值 正常 返回值 说明 200 OK GET和PUT操作正常返回。 201 Created POST操作正常返回。 204 No Content 异常 返回值 说明 400 Bad Request 请求参数错误 403 Forbidden 没有权限对资源访问 404 Not Found

查看更多 →

加权轮询算法 在非0的权重下，负载均衡器会将请求按权重值的大小分配给所有的后端服务器，且在轮询时，权重大的后端服务器被分配的概率高。 当后端服务器的权重都设置为相等时，负载均衡器将按照简单的轮询策略分发请求。 加权最少连接 在非0的权重下，负载均衡器会通过 overhead=当前连接数/权重

查看更多 →

获取Key值 进入卖家中心页面。 单击左侧导航的“服务商管理>服务商信息”。 在“服务商信息”页面单击小眼睛图标获取Key值。 父主题： 接入准备工作

查看更多 →

根据组内后端服务器设置的权重，依次将请求分发给不同的服务器。 加权最少连接 将请求分发给（当前连接/权重）比值最小的后端服务器进行处理。 一致性哈希算法 源IP算法 连接ID算法 对请求的特定字段进行一致性哈希计算，并根据计算的哈希值将请求均匀地分配到后端服务器中。相同哈希值的请求，

查看更多 →

Step2 权重格式转换 AutoAWQ量化完成后，使用int32对int4的权重进行打包。昇腾上使用int8对权重进行打包，需要进行权重转换。 进入vllm代码目录下执行以下脚本： 执行时间预计10分钟。执行完成后会将权重路径下的原始权重替换成转换后的权重。如需保留之前权重格式，请在转换前备份。

查看更多 →

E CS .ExtendParam 字段说明 表1 字段说明 属性 是否必选 参数类型 描述 CB_CSBS_BACKUP 否 string CB CSBS BACKUP 取值说明：用户自定义 使用建议：无 imageproductid 否 string 镜像产品ID 取值说明：用户自定义

查看更多 →

ECS.NICS 字段说明 表1 字段说明 属性 是否必选 参数类型 描述 subnetId 是 HuaweiCloud.VPC.Subnet.Id 待创建云服务器的网卡信息。 取值说明：需要指定云服务器所属虚拟私有云下已创建的子网（subnet）的ID，或通过连线VPC.Subnet来自动生成

查看更多 →

批量ECS操作 ECS操作为用户提供了管理ECS实例的能力，支持进行批量开机、关机、重启、切换操作系统、重装操作系统等操作。 批量开机 批量关机 批量重启 重装操作系统 切换操作系统 父主题： 资源运维

查看更多 →

登录Windows ECS Windows ECS登录方式概述 通过控制台VNC登录Windows ECS 通过RDP文件登录Windows ECS 通过本地Windows主机登录Windows ECS 通过本地Linux主机登录Windows ECS 通过本地macOS主机登录Windows

查看更多 →

获取Key值 进入卖家中心页面。 单击左侧导航的“服务商管理>服务商信息”。 在“服务商信息”页面单击小眼睛图标获取Key值。 父主题： 接入准备工作

查看更多 →