如何处理 Python API 中的速率限制

Question

我正在向 Salesforce Marketing Cloud API 发出 SOAP 请求，以从总共有 1,000,000 条记录的 object 中以 2500 条为一批检索数据扩展 object 条记录。 不幸的是，SDK 不是一个选项，因为与 DE 名称长度有关的现有错误。 大约中途，运行正常后，我收到 500 响应，随后失败。 据我所知，这是由于节流造成的：

https://developer.salesforce.com/docs/marketing/marketing-cloud/guide/rate-limiting-errors-codes.html

一般来说，在 API 请求中处理速率限制的好方法是什么？ 您是否添加睡眠定时器以在后续通话之间提供更多时间。 或者您会捕获 500 响应（或您收到的任何错误响应）然后从那里添加一个睡眠定时器吗？

这是我第一次遇到这个问题，所以我很感激任何指导/资源，并且很乐意从那里进行测试。

Answer 1

首先，不要让您的应用直接拨打 SOAP 电话。 相反，编写一个实用程序库，并让应用程序始终通过它 go。

查阅文档以了解相关的速率限制策略。 您需要知道每小时有多少请求是可以接受的。

您的图书馆应维护一个全局内存数据结构，该结构会记住最近的交易时间和计数。 也就是说，你应该知道你最近有多忙，以及你滑冰的速度限制的边缘有多近。 如果你离得很近，考虑睡一会儿。 绝对记录所有内容，并带有时间戳。

---

在您引用的 URL 中，请注意第二个时间戳：

        <wsu:Created>2017-02-01T19:07:24Z</wsu:Created>
        <wsu:Expires>2017-02-01T19:12:24Z</wsu:Expires>

当您的图书馆最终收到错误响应时，它应该使用第二个（未来）时间戳来智能地选择睡眠时间。 它告诉我们禁令何时解除——在那之前的尝试只会白费。

睡眠时间略长于所需时间。 您的目标应该是始终保持略低于限制。

---

为此编写单元/集成测试。 整个系统庞大而复杂。 您需要确信您了解它并且可以预测它的行为。 有时服务器端会发生变化，而您不希望这些变化造成您必须追踪的难以诊断的Heisenbug 。

您需要有意触发服务器端速率限制然后成功恢复的测试。 您还需要测试证明高交易率仍然略低于限制。