基於 pod 上可用連接數的 Kubernetes 上的自定義負載均衡器

Question

有一個系統允許我們最多建立 100 個 http 連接。

我們有一個 Spring 啟動應用程序，它使用大小有限的連接池連接到該系統，並且當請求進入時，如果池中沒有連接，請求會在隊列中等待可用連接。

該應用程序部署到 Kubernetes，它可以擴展和輪詢對 pod 的請求。

當負載進來時，一些 pod 有可用的連接，而另一些則沒有，我想知道，有沒有一種方法可以在 Kubernetes 上配置自定義負載均衡器，將請求轉發到具有最高可用連接數的 pod，而不是輪詢？

Answer 1

The HTTP protocol has a feature called HTTP keep-alive, or HTTP connection reuse that uses a single TCP connection to send and receive multiple HTTP requests and responses. 按照此文檔在 Kubernetes 中對長期連接進行負載平衡

以下是一些關於如何在不同語言中實現 keep-alive 的示例： Keep-alive in Spring boot