Tomcat第一次请求的高延迟

Question

我们有一个使用嵌入式Tomcat版本7.0.32的应用程序。 我正在观察有关延迟的特殊情况。

我正在对应用程序进行一些负载测试，我观察到的是对tomcat的第一个请求要花费相当长的时间，例如大约300+ ms的速率。 随后的请求大约需要10-15毫秒。

我正在使用BIO连接器。 我知道使用持久连接，因为我使用的是HTTP 1.1，默认情况下具有该支持。 因此，理想情况下，仅创建1个TCP连接，并将所有请求推送到同一连接上，直到经过存活超时为止。

我得到的创建TCP连接将涉及一些成本，但是差别只是很大。

任何想法都可能导致第一个请求与后续请求之间的延迟发生巨大差异，我们可以采取任何措施来减少/消除该请求。

谢谢，

维克拉姆

Answer 1

如果使用的是JSP，则会对其进行编译。

如果要连接到数据库，则连接池以前可能为空。 一般来说，如果您有延迟初始化的单例，则第一个请求必须等待。

最重要的是，JIT发挥了作用：因此，在第一个请求之后，JIT可能已应用了一些优化。

如果它是负载测试（或性能测试），那么我将忽略第一个请求/运行，因为这仍然是“热身”阶段。

更新资料

您可能会发现有关微基准测试的信息很有趣。