当 API 关闭时请求优先级

Question

想象一个带有名为 /valueableData 的端点的 API。 服务器明确指出 API 的限制是总共 500 个请求/秒和每人 20 个请求/秒。 该服务器不会检查您的 IP，因此我可以使用 500 个正常工作的代理发出 500 个请求/秒，而 API 不会脱机。 现在假设 A 发送 1000 个请求/秒，B 发送 20 个请求/秒，这会导致达到 500 个限制并且 API 离线。 API 重新上线后，A 每秒返回多少个有效答案，B 返回多少个有效答案？ 服务器/API 如何处理这个问题？ 人 A 每秒能得到 480 个有效答案，而人 B 每秒能得到 20 个有效答案吗？ 或者 A 是否能得到最多 500 个答案/秒？

Answer 1

这取决于协议。

通常用于 REST 的 HTTP 本身是无状态的和客户端启动的，因此不符合要求。

您的方案需要一个协议，该协议：

1. 知道客户是谁/曾经
2. 再次上线后可以推送回复，无需客户参与
3. 可以优先响应客户请求

我想这样的协议存在或可以使用WebSocket实现并将状态存储在数据库中。