内存流控

背景信息

Elasticsearch内部有熔断器机制，可以配置内存使用的阈值，当节点内存超过指定值，触发熔断，请求操作终止。但是Elasticsearch在调用API时没有判断当前的堆内存使用量，如果在请求处理过程中计算，即使熔断也会造成堆内存的消耗，频繁熔断会导致节点不可用，同时熔断器不支持单个请求的熔断阈值配置。但是，当在Rest请求入口处设置堆内存使用限制时，可以阻断API的请求，达到保护节点的目的。而内存流控可以配置节点全局流控和基于单个请求Path的精细化内存控制，其中单个请求Path的流控通过配置请求Path和堆内存阈值，在请求处理前判断配置的堆内存阈值，超过阈值中断当前的请求Path。

• 开启内存流控会消耗部分请求性能。
• 开启内存流控会导致Kibana的部分search请求失败。
• ES 551版本开启内存流控会导致_mget请求被拦截，Kibana访问异常，可以把_mget请求加入请求白名单规避。

在开启或关闭集群的内存流控时，执行命令涉及的配置参数如下：

操作步骤

1. 登录云搜索服务管理控制台。
2. 在“集群管理”页面选择目标集群，单击操作列“Kibana”，登录Kibana界面。
3. 单击左侧导航栏的“Dev Tools”，执行命令开启或关闭内存流控。
   • 开启内存流控

     PUT /_cluster/settings
     {
       "persistent": {
         "flowcontrol.memory.enabled": true,
         "flowcontrol.memory.allow_path": "/index/_search",
         "flowcontrol.memory.heap_limit": "85%"
       }
     }

   • 开启单个请求Path的内存流控

     基于单个索引和请求Path设置堆内存使用阈值，可以基于此规则做优先级调度。

     PUT /_cluster/settings
     {
       "persistent": {
         "flowcontrol.memory.enabled": true,
         "flowcontrol.memory": {
           "flowcontrol_search": {
             "filter_path": "index1/_search",
             "heap_limit": "50%"
           },
           "flowcontrol_bulk": {
             "filter_path": "index*/_bulk",
             "heap_limit": "50%"
           }
         }
       }
     }

   • 删除单个请求Path的内存流控配置

     PUT /_cluster/settings
     {
       "persistent": {
         "flowcontrol.memory.enabled": true,
         "flowcontrol.memory": {
           "flowcontrol_search": {
             "filter_path": null,
             "heap_limit": null
           }
         }
       }
     }

   • 关闭集群内存流控

     PUT /_cluster/settings
     {
       "persistent": {
         "flowcontrol.memory.enabled": false
       }
     }