當 API 關閉時請求優先級

Question

想象一個帶有名為 /valueableData 的端點的 API。 服務器明確指出 API 的限制是總共 500 個請求/秒和每人 20 個請求/秒。 該服務器不會檢查您的 IP，因此我可以使用 500 個正常工作的代理發出 500 個請求/秒，而 API 不會脫機。 現在假設 A 發送 1000 個請求/秒，B 發送 20 個請求/秒，這會導致達到 500 個限制並且 API 離線。 API 重新上線后，A 每秒返回多少個有效答案，B 返回多少個有效答案？ 服務器/API 如何處理這個問題？ 人 A 每秒能得到 480 個有效答案，而人 B 每秒能得到 20 個有效答案嗎？ 或者 A 是否能得到最多 500 個答案/秒？

Answer 1

這取決於協議。

通常用於 REST 的 HTTP 本身是無狀態的和客戶端啟動的，因此不符合要求。

您的方案需要一個協議，該協議：

1. 知道客戶是誰/曾經
2. 再次上線后可以推送回復，無需客戶參與
3. 可以優先響應客戶請求

我想這樣的協議存在或可以使用WebSocket實現並將狀態存儲在數據庫中。