Azure ASP.NET WebAPI性能

Question

在尝试调查现实生活项目中的问题时，我试图获得一些在Azure Web应用程序中托管的ASP.NET WebAPI性能的见解。 作为第一步，我使用默认模板在Visual Studio中创建了一个ASP.NET WebAPI项目，该模板包含以下虚拟控制器：

public class ValuesController : ApiController
{
    // GET api/values
    public IEnumerable<string> Get()
    {
        return new string[] { "value1", "value2" };
    }

    // ...
}

我将API部署到D1 Azure Web应用程序：

Shared infrastructure 
1 GB memory 
240 minutes/day compute

然后，我实现了一个简单，快速和脏的客户端控制台应用程序：

var client = new RestClient("https://foo.azurewebsites.net/api/");
var request = new RestRequest("values", Method.GET);

var callsToExecute = 1000;
var totalElapsed = .0;
var responseCount = 0;

var totalSw = new Stopwatch();
totalSw.Start();

for (var i = 0; i < callsToExecute; i++)
{
    var sw = new Stopwatch();
    sw.Start();
    client.ExecuteAsync(request, (r, h) => {
        sw.Stop();
        totalElapsed += sw.ElapsedMilliseconds;
        responseCount++;
        if (responseCount == callsToExecute) totalSw.Stop();
    });

    Thread.Sleep(10);
}

while(responseCount < callsToExecute)
{
    Thread.Sleep(1000);
}

System.Console.WriteLine("Average time to response: " + totalElapsed / callsToExecute);
System.Console.WriteLine("Total duration: " + totalSw.ElapsedMilliseconds);
System.Console.ReadLine();

这个小小的压力测试在10秒的时间范围内发送了1000个请求，鉴于相对简单的控制器方法，这对我来说似乎并不多。

结果是：

Average time to response: 5065.38 ms
Total duration: 23028 ms

我也试过一个版本，使控制器方法异步，这不会改变结果。 使用WebClient而不是RestSharp也不会更改结果。

根据资源监视器，网络流量约为2.5 kB / s。

以大间隔（> 1000ms）发送请求的响应时间约为270ms，这是我认为合理的一个数量级。

我的问题：

• 为什么这么慢？ 返回{ "value1", "value2" } 1000次有多难？
• 在给定方案的情况下，此性能是否落在预期范围内？
• 我的客户端应用程序中是否存在某种错误？
• 如果这是预期的行为：给定场景的近似呼叫率限制是多少？

Answer 1

为什么这么慢？ 返回{“value1”，“value2”} 1000次有多难？

您正在进行的测试类型是尖峰或爆破测试。 无论控制器返回什么，根据线程池对特定服务器可以处理的请求数量进行限制。 线程池依赖于CPU，如果您有比线程池更多的请求，那么它就会排队。您正在进行的测试取决于CPU，因为您使用的是Test / Dev基础架构，所以需要扩展您的实例。 在某些限制之后，您的请求将排队等候。

在给定方案的情况下，此性能是否落在预期范围内？

我相信是的。 就像我说的那样，你正在以非常短的提升请求爆发。 除非您过度配置实例并对请求进行负载平衡，否则Azure Web应用程序不适用于峰值。 如果您知道有时会出现峰值，那么您需要使用虚拟节点查看无服务器或Kubernetes。 否则你必须过度配置azure web应用程序。

我的客户端应用程序中是否存在某种错误？

您可以使用专业工具来获得更好的结果。 例如，打开应用程序洞察并获得服务器性能的实际洞察力。 JMeter在测试方面很不错。 您还可以查看Azure Web应用程序负载测试。 我建议的原因是你得到另一个视角来研究服务器如何处理请求以及为什么需要这么多时间。

负载测试

应用洞察力

如果这是预期的行为：给定场景的近似呼叫率限制是多少？

应用池限制

ASP.NET线程

建议

如果你要参加绿色领域项目，你一定要看看asp.net核心。 根据独立基准测试提供商，asp.net核心是表现最好的框架之一。 它始终是我们正在使用的最佳实践，基础架构和技术堆栈的平衡。 基于一个测试，当忽略下划线限制时，我们无法确定性能。 做不同的测试组合，例如选择不同的OS，不同的asp.net版本，不同的区域来提出具体的结果。

techempower基准

ASP.NET CORE测试

希望有所帮助！