配置服务器使用netty 4具有20,000个客户端的连接

Question

我正在使用netty 4.0编写TCP服务器，这可能会同时加载20k客户端。 但是我的服务器无法承受许多这样的联系。 这是我的代码。

private void initServer(){
EventLoopGroup boosGroup = new NioEventLoopGroup(100);
EventLoopGroup workerGroup = new NioEventLoopGroup(1000);
EventExecutorGroup eegHandle = new DefaultEventExecutorGroup(1000);
EventExecutorGroup eegDecode = new DefaultEventExecutorGroup(1000);
EventExecutorGroup eegEndcode = new DefaultEventExecutorGroup(1000);
try {
        ServerBootstrap bootstrap = new ServerBootstrap();
        bootstrap.group(boosGroup, workerGroup);
        bootstrap.channel(NioServerSocketChannel.class);
        bootstrap.childHandler(new ChannelInitializer<SocketChannel>() {

            @Override
            protected void initChannel(SocketChannel ch) throws Exception {
                ChannelPipeline pipeLine = ch.pipeline();
                //add check idle time of connection
                pipeLine.addLast("Ilde event", new IdleStateHandler(timeIdleRead, timeIdleWrite, 0));
                //add idle handler to handle idle connection
                pipeLine.addLast("Idle handler", new ServerHandleIdleTime(logger));
                //add decode handler to decode message received from client
                pipeLine.addLast(eegDecode, new ServerMsgDecoder());
                //add business handler to process business
                pipeLine.addLast(eegHandle, new ServerHandleSimple());
                //add encode handler to encode message send to client
                pipeLine.addFirst(eegEncode, new ServerMsgEncoder());
            }
        });
        bootstrap.option(ChannelOption.SO_BACKLOG, 200);
        bootstrap.childOption(ChannelOption.SO_KEEPALIVE, false);
        // bootstrap.option(ChannelOption.SO_TIMEOUT, 10000);
        ChannelFuture channelFuture = bootstrap.bind(host, port);
        channelFuture.sync();
        channelFuture.channel().closeFuture().sync();
    } catch (Exception e) {
        logger.error("", e);
    } finally {
        workerGroup.shutdownGracefully();
        boosGroup.shutdownGracefully();
    }}

我应该像这样对3处理程序EventExecutorGroup使用3吗？ 我用nthread（= 1000）表示workerGroup是否足以进行20k连接？ 希望大家能重新配置服务器。 谢谢！

Answer 1

NIO并不意味着具有与连接的客户端一样多的线程，但至少有两个活动的客户端（传入或传出消息），而不是连接的客户端。

否则，如果最大并行度不愿意，那么您将在每条消息之间等待一会儿（每个线程将尽快从一个通道转到另一个通道）。 通常，这不是问题。

但是我认为1000已经很多了。 但这可能确实取决于您的需求。 1000个（用于2万个客户端）意味着同时最多有5％的客户端真正处于活动状态（即使已连接）。 如果您的客户端已连接并且确实处于活动状态，那么1000可能还不够...如果您的客户端每秒发送1条消息，而每条消息花费100毫秒，则意味着平均有10％的并发消息，因此2000 ...您必须自己弄清楚。

在您的EventExecutorGroup ，它取决于您的编码器和解码器以及业务处理程序：

• 如果有人阻塞或花费很长时间，则可能需要EventExecutorGroup 。
• 如果不是，则不需要此类EventExecutorGroup 。

您也可以尝试以下操作：

• 如有必要，将编解码器的数量增加到编解码器和业务处理程序以及workerGroup中可能的活动（或并发）消息的数量。
• 对多个处理程序使用相同的EventExecutorGroup 。
• 在您的引导程序中将ChannelOption.SO_REUSEADDR添加为true。
• bossGroup通常最多应为（2 x核心数）+1（因此，如果您有6个核心，则可以将其设置为13）。 不必将其增加到100。

• 使您的处理程序的顺序更符合常规做法：

  1. 空闲状态处理程序
  2. ServerHandleIdleTime
  3. ServerMsgDecoder
  4. ServerMsgEncoder //由于addFirst当前在代码中的第一位
  5. ServerHandleSimple