文档首页/ AI开发平台ModelArts/ 常见问题/ ModelArts Studio(MaaS)/ 如果模型服务的RPM数值为300,可以1秒直接发送300个请求吗?
更新时间:2025-08-14 GMT+08:00
分享

如果模型服务的RPM数值为300,可以1秒直接发送300个请求吗?

不可以。如果模型服务的RPM(每分钟请求数)为300,意味着每秒最多可以处理5个请求(300/60=5)。因此,1秒内发送300个请求会远远超出服务的处理能力,导致请求失败。

建议您均匀地发送API请求,避免短时间内发送大量请求。根据API网关的限流机制,如果1秒内的请求数超过RPM/60*1,超额部分的请求可能会触发API网关的速率限制拦截,导致请求失败并返回错误码429(Too Many Requests)。

相关文档