为社交应用程序构建健壮的API的正确方法？

Question

现有一个社交网络应用程序，客户现在希望为其创建移动应用程序。 我们需要制作一个健壮的API，并且当10万现有用户开始使用这些移动应用程序时，API不会挂掉。

您对构建此API的正确方法有何建议？

过去，我们已经制作了数百个API，这些API也使用了10万个用户。 但是这个应用程序有点特殊，我们预计并发API请求将比过去多20倍。

这就是为什么我不愿意使用我们的“标准” API逻辑，然后再看这里是否有人可以提出一些好的策略之前的原因。

在较高级别上，服务器上将有一个数据库，一个API层将处理所有通信。

Answer 1

简而言之：看看您的硬件解决方案。

尽可能尝试减少IO。 如果可能，将应用所需的尽可能多的包含资源打包到服务器端的一个有效负载中，然后一次性将其推送到客户端。 您实际上不希望在客户端包含数百个include。

一个想法是监视正在进行的同时请求数量，以及是否超过阈值（您可以通过模拟来找出痛苦的阈值）是否过多，开始将请求缓存在队列中以确保每个用户都能获得流畅的体验。 也许他们会在开始时等待更长的时间，但是一旦加载开始，它将很平稳，而不是应用程序的加载。 对于用户而言，最烦人的事情是不知道该东西是否已完成加载，或者是否已将其加载到一半，然后停止。

但最终，您需要查看硬件解决方案。 如果是IO密集型，请查看具有SSD驱动器的硬件LB和服务器的设置。