目标服务访问端口：可选择目标Service的访问端口。 负载均衡配置： 分配策略：可选择加权轮询算法、加权最少连接或源IP算法。 加权轮询算法：根据后端 服务器 的权重，按顺序依次将请求分发给不同的服务器。它用相应的权重表示服务器的处理性能，按照权重的高低以及轮询方式将请求分配给各服务器，相同权重的服务器处理相同数目的

查看更多 →

为什么通过负载均衡无法访问后端业务？ 问题描述 当出现以下问题时，可以参考本章节排查解决。 可以直接访问后端业务，但是无法通过负载均衡访问后端业务。 通过私网IP可以访问负载均衡，但是公网IP无法访问负载均衡。 后端服务器健康检查异常。 背景介绍 客户端通过负载均衡访问服务器示意图如图1。

查看更多 →

设置读写分离权重 功能介绍 设置读写分离权重。 调用方法 请参见如何调用API。 URI PUT /v3/{project_id}/instances/{instance_id}/proxy/{proxy_id}/weight 表1 路径参数 参数 是否必选 参数类型 描述 project_id

查看更多 →

训练的权重转换说明 以llama2-13b举例，使用训练作业运行0_pl_pretrain_13b.sh脚本。脚本同样还会检查是否已经完成权重转换的过程。 若已完成权重转换，则直接执行预训练任务。若未进行权重转换，则会自动执行scripts/llama2/2_convert_mg_hf

查看更多 →

训练的权重转换说明 以llama2-13b举例，使用训练作业运行0_pl_pretrain_13b.sh脚本。脚本同样还会检查是否已经完成权重转换的过程。 若已完成权重转换，则直接执行预训练任务。若未进行权重转换，则会自动执行scripts/llama2/2_convert_mg_hf

查看更多 →

修改读写分离权重 功能介绍 修改指定实例的读写分离权重。 该接口计划于2024-04-30下线。 调用接口前，您需要了解API 认证鉴权。 调试 您可以在 API Explorer 中调试该接口。 接口约束 该接口仅支持RDS for PostgreSQL 11、RDS for PostgreSQL

查看更多 →

负载均衡 负载均衡作用在客户端，是高并发、高可用系统必不可少的关键组件，目标是尽力将网络流量平均分发到多个服务器上，以提高系统整体的响应速度和可用性。 Java Chassis的负载均衡作用于微服务消费者，需要微服务应用集成负载均衡模块，启用loadbalance处理链。 配置示例如下：

查看更多 →

负载均衡 负载均衡作用在客户端，是高并发、高可用系统必不可少的关键组件，目标是尽力将网络流量平均分发到多个服务器上，以提高系统整体的响应速度和可用性。 Java Chassis的负载均衡作用于微服务消费者，需要微服务应用集成负载均衡模块，启用loadbalance处理链。 配置示例如下：

查看更多 →

只能为只读实例选择权重。 该列表可以为空列表。 route_mode 是 Integer 数据库代理路由模式。取值范围： 0：表示权重负载模式。 1：表示负载均衡模式（数据库主实例不接受读请求）。 2：表示负载均衡模式（数据库主实例接受读请求）。 如需使用负载均衡模式，请联系客服申请

查看更多 →

目标服务访问端口：可选择目标Service的访问端口。 负载均衡配置： 分配策略：可选择加权轮询算法、加权最少连接或源IP算法。 加权轮询算法：根据后端服务器的权重，按顺序依次将请求分发给不同的服务器。它用相应的权重表示服务器的处理性能，按照权重的高低以及轮询方式将请求分配给各服务器，相同权重的服务器处理相同数目的

查看更多 →

负载均衡 查询集群支持的elbv3负载均衡器 打开或关闭ES负载均衡器 ES监听器配置 获取该esELB的信息，以及页面需要展示健康检查状态 更新ES监听器 查询证书列表 父主题： API

查看更多 →

负载均衡 在更新流量策略内容时，可选择是否开启。 在微服务场景下，负载均衡一般和服务配合使用，每个服务都有多个对等的服务实例。 服务发现负责从服务名中解析一组服务实例的列表，负载均衡负责从中选择一个实例。为目标服务配置满足业务要求的负载均衡策略，控制选择后端服务实例。 父主题： 流量策略

查看更多 →

获取授权重定向URL 功能介绍 获取授权重定向URL。 调试 您可以在API Explorer中调试该接口。 URI GET /v1/{project_id}/git/auths/{repo_type}/redirect 参数说明见表1。 表1 路径参数 参数 是否必选 参数类型

查看更多 →

训练中的权重转换说明 以 llama2-13b 举例，运行 0_pl_pretrain_13b.sh 脚本。脚本同样还会检查是否已经完成权重转换的过程。 若已完成权重转换，则直接执行预训练任务。若未进行权重转换，则会自动执行 scripts/llama2/2_convert_mg_hf

查看更多 →

Kubernetes Gateway API模型实现网关能力，网格服务详情中的灰度发布策略只适用于东西向网格内部服务间；对于南北向入口网关的目标服务，如果需要配置灰度发布策略，可参考为南北向服务网关的目标服务配置灰度发布为入口网关的目标服务配置灰度发布策略。 父主题： 灰度发布

查看更多 →

伸缩组在冷却时间内，会拒绝告警策略的触发，其他类型的伸缩策略（如定时策略和周期策略）及手动触发不受限制。 说明： 伸缩组在进行扩容活动过程中，允许缩容策略的触发，扩容活动结束后执行缩容活动，不受冷却时间影响。 伸缩组在进行缩容活动过程中，允许扩容策略的触发，缩容活动结束后执行扩容活动，不受冷却时间影响。

查看更多 →

for MySQL数据库代理支持权重负载和负载均衡路由模式，可根据需要配置不同的路由模式。 权重负载：根据您设置的读权重比例分发读请求。 负载均衡：根据数据库节点的活跃连接数情况进行读请求分发，将读请求分发到活跃连接数较少的节点上。负载均衡模式不需要修改权重。 更多关于路由模式的内容请参见设置延时阈值和路由模式。

查看更多 →

默认值 装箱调度策略权重 增大该权重值，可提高装箱策略在整体调度中的影响力。 10 CPU权重 增大该权重值，优先提高集群CPU利用率。 1 内存权重 增大该权重值，优先提高集群Memory利用率。 1 自定义资源类型 指定Pod请求的其他自定义资源类型，例如nvidia.com/gp

查看更多 →

在部署记录列表中，单击最后一次部署成功记录操作列的“配置变更”，进入配置变更页面。 在配置变更页面可以编辑滚动升级策略、启动命令，编辑微服务在SLB上负载均衡的权重，新增HOST配置、环境变量等。 如果是使用动态配置并且只修改业务配置项，则会配置动态生效。否则Pod会执行滚动升级。

查看更多 →

步骤1：验证模型权重文件 在进行模型服务升级之前，必须先确认模型权重文件能够成功完成推理任务。只有当验证成功，确保了模型权重的功能性和准确性后，才可以进行模型权重的滚动升级。 获取待更新的模型权重文件，并上传到OBS桶中。 参考创建我的模型，用待更新的模型权重文件新建一个我的模型。关键参数请参见表1。

查看更多 →

ai/en/latest/quantization/auto_awq.html。 Step2 权重格式离线转换（可选） AutoAWQ量化完成后，使用int32对int4的权重进行打包。昇腾上使用int8对权重进行打包，在线转换会增加启动时间，可以提前对权重进行转换以减少启动时间，转换步骤如下： 进入llm_too

查看更多 →