如何增加处理HTTP请求的次数？

Question

我在Azure上发布了ASP.NET Web API应用程序（移动后端）。 大多数请求都是轻量级并且处理速度很快 但是每个客户端都会提出大量请求，并在与移动应用程序的每次交互中快速完成。

问题是Web应用程序无法处理甚至很小（10 /秒）的请求量。 Http队列增长但CPU没有。

我以250请求/秒运行负载测试，平均响应时间从〜200ms增加到5s。

我的代码可能有问题吗？ 还是它的硬件限制？ 我可以一次增加已处理的请求数吗？

Answer 1

首先，你使用什么实例（特别是如果你使用小型和超小型实例），你使用了多少个实例 - 从服务器上的1个核心和2Gb RAM不要太多，这真的很重要。

使用缓存（WebApi.OutputCache.V2减少服务器处理工作，Azure Redis缓存作为快速缓存存储），数据库也可能成为瓶颈。

如果在将更多实例添加到服务器和缓存后，您将获得相同的结果 - 那么您应该查看代码并找到那里的瓶颈。

这只是一般的推荐，问题中没有代码。