Nginx 循环负载均衡不符合预期

Question

我们正在连接到一个系统，其中 4 个端口被暴露来为 grpc 请求提供服务。 使用 nginx 作为负载均衡器，通过以下配置转发 4 个客户端 grpc 请求：

user www-data;
worker_processes auto;
pid /run/nginx.pid;
include /etc/nginx/modules-enabled/*.conf;

events {
        worker_connections 768;
        # multi_accept on;
}

http {
    log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '
                      '$status $body_bytes_sent "$http_referer" '
                      '"$http_user_agent"';

    map $http_upgrade $connection_upgrade {
        default upgrade;
        ''      close;
    }
    upstream backend{
        #least_conn;
        server localhost:9000 weight=1 max_conns=1;
        server localhost:9001 weight=1 max_conns=1;
        server localhost:9002 weight=1 max_conns=1;
        server localhost:9003 weight=1 max_conns=1;
        }

    server {
        listen 80 http2;

        access_log /tmp/access.log main;
        error_log /tmp/error.log error;

        proxy_buffering off;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Scheme $scheme;
        proxy_set_header Host $http_host;

        location / {
                #eepalive_timeout 0;
                grpc_pass grpc://backend;
                grpc_pass_header userid;
                grpc_pass_header transid;
        }
    }
}

据观察，很少有客户端 4 的所有请求都到达所有 4 个端口，但有时（比如 30%）仅到达 2 个端口/3 个端口。 似乎 NGINX 没有按预期发生默认循环。 我们尝试了所有可能性，例如 max_conns、least_conn、weight 但没有运气。

似乎我遇到了以下链接中的问题：

https://serverfault.com/questions/895116/nginx-round-robin-nor-exactly-round-robin
https://stackoverflow.com/questions/40859396/how-to-test-load-balancing-in-nginx

当我浏览 Quora 时发现 nginx 中的“fair”模块可以解决这个问题。

    "The Nginx fair proxy balancer enhances the standard round-robin load 
    balancer provided with Nginx so that it will track busy back end servers (e.g. Thin, Ebb, Mongrel) and balance the load to non-busy server processes. "

https://www.quora.com/What-is-the-best-way-to-get-Nginx-to-do-smart-load-balancing

我尝试从源代码中使用带有 NGINX 的“公平”模块，但遇到了很多问题。 我无法启动 NGINX 本身。 任何人都可以帮助解决这个问题吗？

Answer 1

我们得到了答案！！！！ 刚刚更改了“worker_processes auto;” 到“worker_processes 1;” 现在，它运行良好。

所有请求都正确负载平衡。 这里我们觉得如果你使用的不是单个 worker，多个 worker 可能会将请求发送到同一个端口。

Answer 2

我不知道为什么会发生这种情况，但这可能与浏览器有关。 我在使用浏览器发送请求时遇到了同样的问题。 当我使用 curl 从终端发送请求时，它工作正常。