java - 创建数千个 Netty 客户端,而无需创建数千个线程

标签 java netty c10k

我使用 Netty 4 创建了一个相当简单的服务器。我已经能够将其扩展以处理数千个连接,并且它永远不会超过约 40 个线程。

number of server threads remains constant (via Java VisualVM)

为了测试它,我还创建了一个测试客户端,它创建了数千个连接。不幸的是,这会创建与连接一样多的线程。我希望最大限度地减少客户的线程。为此我看了很多帖子。许多示例显示单连接设置。 Thisthis说要在客户端之间共享 NioEventLoopGroup,我就是这样做的。我得到的 nioEventLoopGroup 数量有限,但在其他地方为每个连接获取一个线程。我不是故意在管道中创建线程,也不知道会发生什么。

number of client threads grows with number of connections (via Java VisualVM)

threads (via Java VisualVM)

这是我的客户端代码设置的片段。根据我迄今为止的研究,它似乎应该保持固定的线程数。我是否遗漏了一些事情来防止每个客户端连接一个线程?

主要

final EventLoopGroup group = new NioEventLoopGroup();

for (int i=0; i<100; i++)){
    MockClient client = new MockClient(i, group);
    client.connect();
}

MockClient

public class MockClient implements Runnable {

    private final EventLoopGroup group;

    private int identity;

    public MockClient(int identity, final EventLoopGroup group) {
        this.identity = identity;
        this.group = group;
    }

    @Override
    public void run() {
        try {
            connect();
        } catch (Exception e) {}
    }

    public void connect() throws Exception{

        Bootstrap b = new Bootstrap();
        b.group(group)
         .channel(NioSocketChannel.class)
         .handler(new MockClientInitializer(identity, this));

        final Runnable that = this;
        // Start the connection attempt
        b.connect(config.getHost(), config.getPort()).addListener(new ChannelFutureListener() {
            @Override
            public void operationComplete(ChannelFuture future) throws Exception {
                if (future.isSuccess()) {
                    Channel ch = future.sync().channel();
                } else {
                    //if the server is down, try again in a few seconds
                    future.channel().eventLoop().schedule(that, 15, TimeUnit.SECONDS); 
                }
            }
        });
    }
}

最佳答案

正如我之前多次遇到的那样,详细解释这个问题让我思考得更多,然后我就遇到了这个问题。如果其他人在创建数千个 Netty 客户端时遇到同样的问题,我想在这里提供它。

我的管道中有一条路径将创建一个超时任务来模拟客户端连接重新启动。事实证明,每当它从服务器收到“重新启动”信号(这种情况经常发生)时,这个计时器任务就会为每个连接创建额外的线程,直到每个连接都有一个线程为止。

处理程序

private final HashedWheelTimer timer;

@Override
protected void channelRead0(ChannelHandlerContext ctx, Packet msg) throws Exception {

    Packet packet = reboot();

    ChannelFutureListener closeHandler = new ChannelFutureListener() {
        @Override
        public void operationComplete(ChannelFuture future) throws Exception {
            RebootTimeoutTask timeoutTask = new RebootTimeoutTask(identity, client);
            timer.newTimeout(timeoutTask, SECONDS_FOR_REBOOT, TimeUnit.SECONDS);
        }
    };

    ctx.writeAndFlush(packet).addListener(new ChannelFutureListener() {
        @Override
        public void operationComplete(ChannelFuture future) throws Exception {
            if (future.isSuccess()) {
                future.channel().close().addListener(closeHandler);
            } else {
                future.channel().close();
            }
        }
    });

}

超时任务

public class RebootTimeoutTask implements TimerTask {

    public RebootTimeoutTask(...) {...}

    @Override
    public void run(Timeout timeout) throws Exception {
        client.connect(identity);
    }

}

关于java - 创建数千个 Netty 客户端,而无需创建数千个线程,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/24195651/

相关文章:

java - 如何动态注入(inject)spring bean(原型(prototype)范围)

java - 在程序之间共享类

java - AspectJ join 只指向通知 "boundary"执行和调用

java - 不同 URL 的 Netty 处理程序

websocket - Micronaut Websocket 连接每 5 分钟超时一次

java - 无法单击从工厂方法传递的元素

java - Netty:ClientBootstrap 连接重试

c - Httperf 文件描述符限制

tornado - 在实践中 C10k 怎么样?

java - 线程闲置 = 坏?