分离部署推理服务 本章节介绍如何使用vLLM 0.6.0框架部署并启动推理服务。 什么是分离部署 大模型推理是自回归的过程，有以下两阶段： Prefill阶段（全量推理） 将用户请求的prompt传入大模型，进行计算，中间结果写入KVCache并推出第1个token，属于计算密集型。

查看更多 →

库引擎并勾选是否开启冷热分离按钮，创建后的集群就开启了冷热分离特性。 创建集群可以参考创建Doris集群。 如果在创建集群的时候未开启冷热分离特性，可在集群详情页面或者集群列表的操作列开启冷热分离。 注意使用Doris集群不要长时间处于高负载（高CPU、高内存、高磁盘使用率等）状

查看更多 →

Doris冷热分离应用 冷热分离概述 使用Doris冷热分离 Doris冷热分离命令简介 父主题： Doris集群管理

查看更多 →

Service），提供DDM服务资源的操作记录，记录内容包括您从 云计算平台 发起的云服务资源操作请求以及每次请求的结果，供您查询、审计和回溯使用。 弹性负载均衡（ELB） 弹性负载均衡（ELB）将访问流量根据分配策略分发到后端多台 服务器 ，通过流量分发扩展DDM对外的服务能力，同时通过消除单点故障提升DDM服务的可用性。

查看更多 →

GaussDB (for MySQL)新增修改读写分离端口号。 GaussDB(for MySQL)新增修改读写分离端口号。 商用 修改读写分离端口号 6 GaussDB(for MySQL) Proxy支持修改和删除内网 域名 。 GaussDB(for MySQL) Proxy支持修改和删除内网域名。

查看更多 →

。 图4 查看权重分配结果 负载均衡：支持基于负载的自动调度策略，读请求将在多个只读节点中按照活跃连接数自动调度，来保证多个只读节点间的负载均衡。 图5 负载均衡 在“选择实例”下拉框勾选需要加入负载均衡的实例。 对于新创建的只读实例，如需加入负载均衡，需要在“选择实例”下拉框中勾选该实例，然后单击“确定”。

查看更多 →

数据库代理（读写分离） GaussDB(for MySQL)数据库代理简介 使用GaussDB(for MySQL)数据库代理实现读写分离 变更数据库代理配置 数据库代理生命周期 数据库代理内核版本 使用Hint语法实现GaussDB(for MySQL)读写分离

查看更多 →

设置读写分离权重 功能介绍 设置读写分离权重。 调用方法 请参见如何调用API。 URI PUT /v3/{project_id}/instances/{instance_id}/proxy/{proxy_id}/weight 表1 路径参数 参数 是否必选 参数类型 描述 project_id

查看更多 →

开发Doris冷热分离应用 应用背景 典型场景说明 开发思路 样例代码 父主题： Doris应用开发指导

查看更多 →

修改读写分离参数 操作场景 开通读写分离功能后，您可以设置多语句处理方式“multiStatementType”。 约束限制 修改读写分离参数需要具有相应的操作权限，您可联系客服人员申请。 多语句处理参数需要proxy内核版本为2.22.11.000及以上。 代理实例的状态必须均为“正常”。

查看更多 →

修改读写分离权重 功能介绍 修改指定实例的读写分离权重。 该接口计划于2024-04-30下线。 调用接口前，您需要了解API 认证鉴权。 调试 您可以在 API Explorer 中调试该接口。 接口约束 该接口仅支持RDS for PostgreSQL 11、RDS for PostgreSQL

查看更多 →

Doris冷热分离命令简介 此章节主要介绍CloudTable Doris冷热分离的使用命令。Doris集群基本命令使用请参见Doris MySQL命令简介。 创建数据迁移策略(STORAGE POLICY) CREATE STORAGE POLICY testPolicy PROPERTIES(

查看更多 →

ickHouse数据库引擎并开启冷热分离特性，创建后的集群就开启了冷热分离特性。 创建集群可以参考创建ClickHouse集群。 如果在创建集群的时候未开启冷热分离特性，可在集群详情页面或者集群列表的操作列开启冷热分离。 节点已使用容量占节点总容量的比值超过冷热分存策略设置的比例

查看更多 →

S for MySQL实例进行分库分表。 1个RDS for MySQL类型主备实例（或者单机实例）最多可以创建5个只读实例，只读实例和主备实例（或者单机实例）使用独立的IP连接地址。 如果想使用统一的读写分离地址，请首先开启读写分离。 父主题： 只读实例和读写分离

查看更多 →

MySQL主实例，会同步删除只读实例，并关闭读写分离功能。 读写分离不支持RDS for MySQL8.0的caching_sha2_password身份认证插件。 开启读写分离功能后，主实例和只读实例均不允许修改数据库端口和内网地址。 读写分离功能不支持压缩协议。 读写分离不支持事务隔离级别READ-UNCOMMITTED。

查看更多 →

Hive负载均衡 配置Hive任务的最大map数 配置用户租约隔离访问指定节点的HiveServer 父主题： Hive企业级能力增强

查看更多 →

Hive负载均衡 配置Hive任务的最大map数 配置用户租约隔离访问指定节点的HiveServer 配置组件隔离访问Hive MetaStore 配置HiveMetaStore客户端连接负载均衡 父主题： Hive企业级能力增强

查看更多 →

“从环境外部访问本组件”页面，选择“负载均衡配置”，并单击“添加负载均衡配置”。 在“新增负载均衡配置”页面，参考表1进行参数配置。 表1 负载均衡外网访问配置 参数 参数说明 负载均衡器 支持“独享型”和“内置负载均衡器”。 选择“内置负载均衡器”，只支持基于EIP公网访问。 选

查看更多 →

Flexus负载均衡 创建Flexus负载均衡后，选择不到Flexus L实例 是什么原因？

查看更多 →

数据的长期存放。 配置ClickHouse数据冷热分离存储的整体流程如下： 创建OBS并行文件系统 创建云服务委托并绑定集群 创建普通账号委托并绑定集群 ClickHouse集群添加OBS磁盘信息 配置磁盘存储策略 自定义冷热分离数据存储策略 导入数据ClickHouse测试验证

查看更多 →

非分离部署推理服务 本章节介绍如何使用vLLM 0.5.0框架部署并启动推理服务。 什么是非分离部署 全量推理和增量推理在同一节点上进行。 前提条件 已准备好DevServer环境，具体参考资源规格要求。推荐使用“西南-贵阳一”Region上的DevServer和昇腾Snt9b资源。

查看更多 →