rt_mg_hf.sh 脚本，自定义环境变量的值，并运行该脚本。其中环境变量详细介绍如下： 表1 权重转换脚本中的环境变量 参数 示例 参数说明 $1 hf2hg、mg2hf 运行 2_convert_mg_hf.sh 时，需要附加的参数值。如下： hf2hg：用于Hugging

查看更多 →

在左侧导航栏，选择“DN管理”页签，单击上方的“设置读权重”。 图1 DN管理 设置实例的读权重。 在批量设置的弹窗中，“同步”功能可以用来将第一个实例的读权重设置同步到其他的实例上。此操作需满足所有实例的只读实例数量一致才可以实行。 如果有实例的只读实例数量与其他实例不一致，则无法使

查看更多 →

各 服务器 的IP地址。设置不同的“权重”参数，可以控制向用户返回不同IP地址的比例。 表1 数据规划 方案 域名 记录集类型 线路类型 值 权重 说明 方案一 example.com A 全网默认 192.168.1.1 1 用户的访问请求将按照“1:1:1”的比例，平均的分摊至3台服务器上。

查看更多 →

mg_hf.sh脚本，自定义环境变量的值，并在脚本的首行中添加 cd /home/ma-user/ws/llm_train/AscendSpeed/ModelLink 命令，随后运行该脚本。 其中环境变量详细介绍如下： 表1 权重转换脚本中的环境变量 参数 示例 参数说明 $1 hf2hg、mg2hf

查看更多 →

--model-type：模型类型。 --loader：选择对应加载模型脚本的名称。 --saver：选择模型保存脚本的名称。 --tensor-model-parallel-size：${TP}张量并行数，需要与训练脚本中的TP值配置一样。 --pipeline-model-paralle

查看更多 →

mg_hf.sh脚本，自定义环境变量的值，并在脚本的首行中添加 cd /home/ma-user/ws/llm_train/AscendSpeed/ModelLink 命令，随后运行该脚本。 其中环境变量详细介绍如下： 表1 权重转换脚本中的环境变量 参数 示例 参数说明 $1 hf2hg、mg2hf

查看更多 →

mg_hf.sh脚本，自定义环境变量的值，并在脚本的首行中添加 cd /home/ma-user/ws/llm_train/AscendSpeed/ModelLink 命令，随后运行该脚本。 其中环境变量详细介绍如下： 表1 权重转换脚本中的环境变量 参数 示例 参数说明 $1 hf2hg、mg2hf

查看更多 →

mg_hf.sh脚本，自定义环境变量的值，并在脚本的首行中添加 cd /home/ma-user/ws/llm_train/AscendSpeed/ModelLink 命令，随后运行该脚本。 其中环境变量详细介绍如下： 表1 权重转换脚本中的环境变量 参数 示例 参数说明 $1 hf2hg、mg2hf

查看更多 →

各服务器的IP地址。设置不同的“权重”参数，可以控制向用户返回不同IP地址的比例。 表1 数据规划 方案 域名 记录集类型 线路类型 值 权重 说明 方案一 example.com A 全网默认 192.168.1.1 1 用户的访问请求将按照“1:1:1”的比例，平均的分摊至3台服务器上。

查看更多 →

参考创建我的模型，用待更新的模型权重文件新建一个我的模型。关键参数请参见表1。 表1 创建模型的关键参数说明 参数 说明 来源模型 选择和待升级的模型服务的“部署模型”同一个模型框架。 权重设置与词表 选择“自定义权重”。 选择自定义权重路径 选择存放待更新的模型权重文件的OBS路径，必须选择到模型文件夹。

查看更多 →

sh脚本，自定义环境变量的值，并在脚本的首行中添加 cd /home/ma-user/work/llm_train/AscendSpeed/ModelLink 命令，随后在Notebook中运行该脚本。 其中环境变量详细介绍如下： 表1 权重转换脚本中的环境变量 参数 示例 参数说明

查看更多 →

确保后端服务器的安全组已针对后端 服务器端口 和健康检查端口配置了相应的入方向规则，详情请参见配置后端服务器的安全组。 后端服务器的权重 在后端服务器组内添加后端服务器后，需设置后端服务服务器的转发权重。权重越高的后端服务器将被分配到越多的访问请求。 每台后端服务器的权重取值范围为[0

查看更多 →

置读写分离的延时阈值和路由模式。 表1 读写分离参数说明 参数 说明 延时阈值 只读实例同步主实例数据时允许的最长延迟时间。延时阈值仅在存在只读实例时生效。为避免只读实例读取的数据长时间和主实例不一致，当一个只读实例的延迟时间超过设置的延迟阈值，则不论该只读实例的读权重是多少，读请求都不会转发至该只读实例。

查看更多 →

作为客户端的场景。 后端服务器的权重 在后端服务器组内添加后端服务器后，需设置后端服务器的转发权重。权重越高的后端服务器将被分配到越多的访问请求。 每台后端服务器的权重取值范围为[0, 100]，新的请求不会转发到权重为0的后端服务器上。 以下三种流量分配策略支持权重设置，详情见

查看更多 →

规则触发方式 配置变更 规则评估的资源类型 elb.members 规则参数 weight：后端 云服务器 的权重，请求将根据后端服务器组配置的负载均衡算法和后端云服务器的权重进行负载分发。 权重值越大，分发的请求越多。 取值范围：0-100。 父主题： 弹性负载均衡 ELB

查看更多 →

务器端口/权重的后端服务器组名称。 在该后端服务器组界面，选择“后端服务器”页签，单击下方“云服务器”区域。 勾选需要设置权重的后端服务器，单击服务器列表上方的“修改权重”。 在“修改权重”弹窗页面，根据需要修改权重/端口的后端数量进行相应操作。 修改单个后端服务器权重：在目标服务器所在行，设置“权重”。

查看更多 →

可根据需要配置不同的路由模式。 权重负载：根据设置的读权重比例分发读请求。 负载均衡：根据数据库节点的活跃连接数情况进行读请求分发，将读请求分发到活跃连接数较少的节点上。负载均衡模式不需要修改权重。 图1 路由模式工作原理 示例： 如上图所示，一个 GaussDB (for MySQL)实例具有1个主节点、4个只读节点。

查看更多 →

键字进行搜索后添加。 选中目标添加的后端服务器，单击“下一步”。 设置服务器 业务端口和服务器的权重，单击“完成”。 支持批量设置端口和权重。 修改后端服务器的端口和权重 每台后端服务器的权重取值范围为[0, 100]，新的请求不会转发到权重为0的后端服务器上。 仅当流量分配策略为

查看更多 →

弹性负载均衡是如何工作的 工作原理 图1 ELB工作原理图 弹性负载均衡的工作原理如下： 客户端向您的应用程序发出请求。 负载均衡器中的监听器接收与您配置的协议和端口匹配的请求。 监听器再根据您的配置将请求转发至相应的后端服务器组。如果配置了转发策略，监听器会根据您配置的转发策略

查看更多 →

务器被分配的概率高，相同权重的服务器处理相同数目的连接数。 推荐场景 加权轮询算法常用于短连接服务，例如HTTP等服务。 灵活负载：当对后端服务器的负载分配有更精细的要求时，可以通过设置不同的权重来实现对服务器的灵活调度，使得性能较好的服务器能够处理更多的请求。 动态负载：当后端

查看更多 →

灵活负载：当对后端服务器的负载分配有更精细的要求时，可以通过设置不同的权重来实现对服务器的灵活调度，使得性能较好的服务器能够处理更多的请求。 动态负载：当后端服务器的性能和负载情况经常发生变化时，可以通过动态调整权重来适应不同的场景，实现负载均衡。 缺点 加权轮询算法需要配置每个后端服务器的权重，

查看更多 →