用相应的权重表示 服务器 的处理性能，按照权重的高低以及轮询方式将请求分配给各服务器，相同权重的服务器处理相同数目的连接数。常用于短连接服务，例如HTTP等服务。 加权最少连接：最少连接是通过当前活跃的连接数来估计服务器负载情况的一种动态调度算法。加权最少连接就是在最少连接数的基础上

查看更多 →

--model-type：模型类型。 --loader：选择对应加载模型脚本的名称。 --saver：选择模型保存脚本的名称。 --tensor-model-parallel-size：${TP}张量并行数，需要与训练脚本中的TP值配置一样。 --pipeline-model-paralle

查看更多 →

mg_hf.sh脚本，自定义环境变量的值，并在脚本的首行中添加 cd /home/ma-user/ws/llm_train/AscendSpeed/ModelLink 命令，随后运行该脚本。 其中环境变量详细介绍如下： 表1 权重转换脚本中的环境变量 参数 示例 参数说明 $1 hf2hg、mg2hf

查看更多 →

mg_hf.sh脚本，自定义环境变量的值，并在脚本的首行中添加 cd /home/ma-user/ws/llm_train/AscendSpeed/ModelLink 命令，随后运行该脚本。 其中环境变量详细介绍如下： 表1 权重转换脚本中的环境变量 参数 示例 参数说明 $1 hf2hg、mg2hf

查看更多 →

mg_hf.sh脚本，自定义环境变量的值，并在脚本的首行中添加 cd /home/ma-user/ws/llm_train/AscendSpeed/ModelLink 命令，随后运行该脚本。 其中环境变量详细介绍如下： 表1 权重转换脚本中的环境变量 参数 示例 参数说明 $1 hf2hg、mg2hf

查看更多 →

在左侧导航栏，选择“DN管理”页签，单击上方的“设置读权重”。 图1 DN管理 设置实例的读权重。 在批量设置的弹窗中，“同步”功能可以用来将第一个实例的读权重设置同步到其他的实例上。此操作需满足所有实例的只读实例数量一致才可以实行。 如果有实例的只读实例数量与其他实例不一致，则无法使

查看更多 →

各服务器的IP地址。设置不同的“权重”参数，可以控制向用户返回不同IP地址的比例。 表1 数据规划 方案 域名 记录集类型 线路类型 值 权重 说明 方案一 example.com A 全网默认 192.168.1.1 1 用户的访问请求将按照“1:1:1”的比例，平均的分摊至3台服务器上。

查看更多 →

后端 云服务器 组的负载均衡算法，默认值为“ROUND_ROBIN”。 取值范围： ROUND_ROBIN：加权轮询算法。 LEAST_CONNECTIONS：加权最少连接算法。 SOURCE_IP：源IP算法。 当该字段的取值为SOURCE_IP时，后端云服务器组绑定的后端云服务器的权重设

查看更多 →

mg_hf.sh脚本，自定义环境变量的值，并在脚本的首行中添加 cd /home/ma-user/ws/llm_train/AscendSpeed/ModelLink 命令，随后运行该脚本。 其中环境变量详细介绍如下： 表1 权重转换脚本中的环境变量 参数 示例 参数说明 $1 hf2hg、mg2hf

查看更多 →

加权最少连接：最少连接是通过当前活跃的连接数来估计服务器负载情况的一种动态调度算法。加权最少连接就是在最少连接数的基础上，根据服务器的不同处理能力，给每个服务器分配不同的权重，使其能够接受相应权值数的服务请求。常用于长连接服务，例如数据库连接等服务。 源IP算法：将请求的源IP地址进行Hash运算，得到一

查看更多 →

分配策略类型 负载均衡采用的算法。 加权轮询算法：根据后端服务器的权重，按顺序依次将请求分发给不同的服务器，权重大的后端服务器被分配的概率高。 加权最少连接：加权最少连接是在最少连接数的基础上，根据服务器的不同处理能力，给每个服务器分配不同的权重，使其能够接受相应权值数的服务请求。

查看更多 →

各服务器的IP地址。设置不同的“权重”参数，可以控制向用户返回不同IP地址的比例。 表1 数据规划 方案 域名 记录集类型 线路类型 值 权重 说明 方案一 example.com A 全网默认 192.168.1.1 1 用户的访问请求将按照“1:1:1”的比例，平均的分摊至3台服务器上。

查看更多 →

算法 包名 样例类名 对应的API com.huawei.ges.graph.sdk.v1.examples.algorithm PagerankSample PageRank算法 PersonalrankSample Personalrank算法 KcoreSample K核算法

查看更多 →

负载均衡器上的监听器转发到后端服务器组。 步骤二 后端服务器组中健康检查正常的后端服务器处理转发的业务请求。 步骤三 实现同时对用户的海量并发业务进行处理，从而提升用户应用系统的可用性。 独享型负载均衡器使用的后端服务器组分为混合类型和IP类型，混合类型支持添加云服务器实例、辅助

查看更多 →

置读写分离的延时阈值和路由模式。 表1 读写分离参数说明 参数 说明 延时阈值 只读实例同步主实例数据时允许的最长延迟时间。延时阈值仅在存在只读实例时生效。为避免只读实例读取的数据长时间和主实例不一致，当一个只读实例的延迟时间超过设置的延迟阈值，则不论该只读实例的读权重是多少，读请求都不会转发至该只读实例。

查看更多 →

参考创建我的模型，用待更新的模型权重文件新建一个我的模型。关键参数请参见表1。 表1 创建模型的关键参数说明 参数 说明 来源模型 选择和待升级的模型服务的“部署模型”同一个模型框架。 权重设置与词表 选择“自定义权重”。 选择自定义权重路径 选择存放待更新的模型权重文件的OBS路径，必须选择到模型文件夹。

查看更多 →

目标服务访问端口：可选择目标Service的访问端口。 负载均衡配置： 分配策略：可选择加权轮询算法、加权最少连接或源IP算法。 加权轮询算法：根据后端服务器的权重，按顺序依次将请求分发给不同的服务器。它用相应的权重表示服务器的处理性能，按照权重的高低以及轮询方式将请求分配给各服务器，相同权重的服务器处理相同

查看更多 →

指定agg算法的Hint 功能描述 在进行agg算法时可以指定agg的方法。 语法格式 use_hash_agg[(@queryblock)], use_sort_agg[(@queryblock)] 参数说明 @queryblock 见指定Hint所处于的查询块Queryblo

查看更多 →

sh脚本，自定义环境变量的值，并在脚本的首行中添加 cd /home/ma-user/work/llm_train/AscendSpeed/ModelLink 命令，随后在Notebook中运行该脚本。 其中环境变量详细介绍如下： 表1 权重转换脚本中的环境变量 参数 示例 参数说明

查看更多 →

关处TLS终止，支持配置对外证书和密钥 √ √ √ 负载均衡 支持轮询、随机、最小连接数以及一致性哈希的LB算法，可以基于特定的HTTP Header，或者基于Cookie值 √ √ √ 故障注入 支持注入指定时延或特定错误的故障，支持配置故障百分比 √ √ √ 熔断 支持配置最

查看更多 →

关处TLS终止，支持配置对外证书和密钥 √ √ √ 负载均衡 支持轮询、随机、最小连接数以及一致性哈希的LB算法，可以基于特定的HTTP Header，或者基于Cookie值 √ √ √ 故障注入 支持注入指定时延或特定错误的故障，支持配置故障百分比 √ √ √ 熔断 支持配置最

查看更多 →