滑动窗口限流机制

问题现象

在使用华为云码道服务时，提示如下报错信息：

• 套餐5小时窗口周期内，当前模型可用额度已用完，系统将在60分钟后自动为您陆续恢复。
• 套餐7天窗口周期内，当前模型可用额度已用完，系统将在24小时后自动为您陆续恢复。

原因分析

华为云码道采用“滑动窗口限流”策略，对每个用户在指定模型上的使用量实施“双维度、双窗口”的精细化配额管控：

• 双维度监控
  • Token额度：按用户消耗的Token总数进行统计。
  • 请求频次：按用户发起的推理请求次数进行计数。
• 双窗口机制
  • 5小时滑动窗口：当前所在小时 + 往前4个完整小时。每当进入新整点（x:00），最早1小时的使用量自动滑出窗口，释放对应配额。
  • 7天滑动窗口：当前所在天 + 往前6个完整天。每当进入新的一天（0:00），最早1天的使用量自动滑出窗口，释放对应配额。

解决方法

• 方式一：等待自动恢复（系统按时间窗口动态释放额度）
  • 5小时窗口：在下一个整点（如x:00）滑动释放最早1小时额度。
  • 7天窗口：在次日0:00滑动释放最早1天额度。

  若滑出时间段内无实际使用量，则对应额度不释放。最终恢复时间取决于“最早产生用量”的时间段何时滑出。

• 方式二：切换其他模型

  不同模型的滑动窗口额度独立计算。当前模型限流时，可立即切换至其他可用模型继续调用，无需等待。

• 方式三：升级套餐（即时生效）

  高阶套餐在滑动窗口机制下，提供了更高的Token额度和请求频次。您可以联系企业管理员，参考变更包年/包月套餐进行升级。升级后即时生效，确保业务不受影响。