内核增强功能介绍
在企业级搜索与分析场景中,开源原生Elasticsearch虽然功能强大,但在面对千万级高维向量检索、PB级数据存储成本压力、大查询引发的OOM异常退出风险以及流量洪峰下的系统崩溃等极端挑战时,经常显得力不从心。为了打破这些技术瓶颈,CSS服务在开源内核基础上,集成了存算分离、大查询隔离及导入性能增强等一系列增强特性。这些特性不仅在底层性能上进行了提升,更针对生产环境的稳定性进行了加固,通过简单的配置即可让您的集群具备支撑高并发与海量数据低成本存储的能力,助您更专注于业务逻辑的实现。
| 增强维度 | 功能名称 | 功能描述 | 支持版本 | 相关文档 |
|---|---|---|---|---|
| 成本优化 | 存算分离 | 存算分离架构将冷热数据分离存储:高频访问的热数据存储于高性能存储介质,低频访问的冷数据迁移至低成本存储介质(对象存储服务OBS)。该方案既能保障实时查询性能,又能大幅降低长期存储成本。 | 7.6.2、7.10.2 | |
| 冷热数据切换 | 切换冷热数据是一种通过将数据按使用频率分配到不同性能节点的策略,以优化存储成本和查询性能。 | 具备冷数据节点的所有版本 | ||
| 稳定性提升 | 读写分离 | 读写分离架构通过主集群和从集群的协作实现,主集群专注写入,提升写入效率,从集群专注查询,支持高并发查询扩展。消除资源争抢,降低峰值负载。 | 7.6.2、7.10.2 | |
| 流量控制 | 流量控制策略通过限制客户端访问、反压写入流量、统计分析流量行为,实现集群资源的合理分配,保障集群稳定性并防止异常流量冲击。 说明: 2023年2月起新建的Elasticsearch 7.6.2和7.10.2集群只支持流量控制2.0版本,而此前创建的集群只支持流量控制1.0版本。 | 7.6.2、7.10.2 | ||
| 查询流量隔离 | 查询流量隔离可以指定某些节点为软隔离或硬隔离节点,对于非白名单索引的Shard查询请求,系统将优先或完全不向这些隔离节点发送,有效避免了故障节点对业务的影响。 | 7.10.2 | ||
| 大查询隔离 | 通过大查询隔离可以管理高内存或长耗时查询,保障Elasticsearch集群稳定性并避免OOM异常。 | 7.6.2、7.10.2 | ||
| 性能提升 | 导入性能增强 | 导入性能增强通过Bulk路由优化、Bulk聚合优化、文本索引加速及Merge任务优化,有效降低系统开销,在高负载场景下可显著提升数据写入的稳定性与吞吐率。 | 7.6.2、7.10.2 | |
| 聚合分析增强 | 聚合增强通过向量化技术和数据聚簇优化,显著提升大规模数据的聚合查询分析性能,帮助用户在复杂数据场景中实现高效分析和提升业务决策效率。 | 7.10.2 | ||
| 运维增强 | 索引回收站 | 索引回收站支持将删除的索引暂存至回收站,并提供还原和彻底删除操作,提升数据可靠性与操作安全性。 | 7.10.2 | |
| 查询资源占用溯源 | 查询资源占用溯源可以通过API获取到最近时延最大、消耗CPU和内存最多的查询语句,并支持基于时间进行过滤从而快速定位到问题查询,提升故障排查的效率和准确性。 | 7.10.2 |