Azure 負載均衡器運行狀況探測失敗

Question

我已經瀏覽了這個https://docs.microsoft.com/en-us/azure/load-balancer/load-balancer-custom-probe-overview但我還沒有找到答案

問題：我在 gunicorn + flask 應用程序托管的單個虛擬機上運行 tensorflow 應用程序。 目的是確保每個 VM 一次只能收到一個請求。 所以我們已經配置了我們的應用程序，在處理請求期間，如果我們收到另一個請求，我們只需發送一個 BUSY 代碼（非 200 響應）..現在健康探測失敗但我們不知道何時以及如何它將這個虛擬機添加回池中，因為實際上，這個虛擬機只是很忙，而且健康狀況不佳..因為 azure LB 不了解在虛擬機上運行的應用程序，我們不知道如何解決這個問題

但是當我們使用上述方法時，我們看到很多超時、現有 VM 的利用率低等，這促使我們想知道“健康狀況不佳”的人是否甚至被召回..azure 文檔和支持真的很差..任何指針請？

Answer 1

根據 此處的文檔，負載均衡器在第 4 層上運行，不提供應用層網關功能。 您可以嘗試以下步驟以更好地了解工作流程並相應地配置您的 LB 以提高效率。

• 您可以嘗試為您的負載均衡器設置監控，並查看一些指標，例如Flow Distribution 。 此視圖可以為您提供有關負載均衡器配置或流量模式是否導致流量不平衡的反饋。 例如，如果您配置了會話親和性，並且單個客戶端發出的請求數量不成比例。
• 如您在上面共享的文檔中所述，如果運行狀況探測失敗，則特定后端被標記為不健康，如果下一個運行狀況探測成功，則后端被標記為健康（您提到的不健康閾值也在此處起作用）。 您可以嘗試優化運行狀況探測間隔，以最大限度地提高 VM 的效率。