RES13-03 过载检测与流量控制

当应用系统发生过载时，可能会导致系统疲于处理请求而无法有效提供服务，因此需要进行过载检测并进行流量控制。

• 风险等级

  高

• 关键策略

  过载控制(也称流控)指系统处于过载时，通过限流、降级、熔断、弹性伸缩等手段，使系统保证部分或者全部额定容量业务成功处理的控制过程；典型过载控制方法定义如下：

  • 限流：在系统过载时主动丢弃部分业务请求。
  • 降级：在系统过载时提供有损服务，通过减少非核心业务，降低业务质量等措施降低系统负载。
  • 熔断：在分布式系统中，应用调用第三方资源和服务时由于第三方资源和服务故障（包括过载）而失败，停止调用远程资源和服务，避免故障扩散。
• 相关云服务和工具

  华为云提供了一些内嵌流控保护的云服务，用户可直接配置使用：

  • API网关 APIG：支持配置流控策略，用户可指定单位时间内的单个API、单个用户或单个APP的请求次数上限。
  • 微服务引擎 CSE：支持限流，用户可指定一定时间内可接受的请求次数上限。