基于 pod 上可用连接数的 Kubernetes 上的自定义负载均衡器

Question

有一个系统允许我们最多建立 100 个 http 连接。

我们有一个 Spring 启动应用程序，它使用大小有限的连接池连接到该系统，并且当请求进入时，如果池中没有连接，请求会在队列中等待可用连接。

该应用程序部署到 Kubernetes，它可以扩展和轮询对 pod 的请求。

当负载进来时，一些 pod 有可用的连接，而另一些则没有，我想知道，有没有一种方法可以在 Kubernetes 上配置自定义负载均衡器，将请求转发到具有最高可用连接数的 pod，而不是轮询？

Answer 1

The HTTP protocol has a feature called HTTP keep-alive, or HTTP connection reuse that uses a single TCP connection to send and receive multiple HTTP requests and responses. 按照此文档在 Kubernetes 中对长期连接进行负载平衡

以下是一些关于如何在不同语言中实现 keep-alive 的示例： Keep-alive in Spring boot