前言:
前面章节我们对Netty的整体结构和使用流程进行了剖析,使用过程中我们首先创建了两个线程组EventLoopGroup,一个负责连接分派,一个负责IO读写,那么这两个线程组工作原理是怎么样的呢?由于NioEventLoopGroup应用较为广泛,我们从这个线程组开刀!
结论:
由于文章源码冗长,如果你没兴趣看(我猜测你应该没兴趣),直接看结论。
一:NioEventLoopGroup构建的两个线程组boss和worker,线程个数默认为CPU个数的2倍。
二:NioEventLoopGroup中的(boss和worker)线程底层通过Java NIO中的Selector实现对通道的绑定和监听。
三:boss线程执行通道连接,当监听到read事件之后绑定worker线程和通道。worker线程执行通道的IO读写。
四:netty本质上还是NIO而不是AIO,只不过执行的线程我们可以指定。
1:Reactor模型:
Reactor模型分为三种,根据并发的用户量性能由低到高
第一种是单线程接收多客户端连接请求并亲自处理IO读写
第二种单线程接收多客户端连接请求请求,转发给其他线程池进行IO读写
第三种多线程接收多客户端连接请求,转发给其他线程池进行IO读写
Netty可以完全吸纳该模型,server端可以通过设置bossgroup和workergroup来选择使用第二种和第三种模型。
2:NioEventLoop线程模型:
我们用到的线程组EventLoopGroup workerGroup = new NioEventLoopGroup()实际上是有每个NioEventLoop线程模型组成的。
类似于web天生的多线程,只要每个业务逻辑的Handler(车间)是无状态的,那么所有的NioEventLoop(工人)就可以并发执行,而不需要加锁。
A:NioEventLoop原理分析:
NioEventLoop类图由该类图可以看出NioEventLoop线程模型顶层接口实现了ScheduledExecutorService,这是Java concurrent包里面的接口,该接口可以执行定时任务,所以毫无疑问,NioEventLoop模型也能执行任务并且能执行定时任务!
打开源码,我们发现NioEventLoop内部依赖了一个Selector,这个Selector是Java NIO中的Selector,所以可见Netty本质上并不是AIO而是NIO。
那么,NioEventLoop到底能干哪些事呢?
a:打开了Selector,run方法中,根据是否有要执行的任务来选择调用selectNow方法和select方法(该方法没有会轮询),值得深思的是一个线程模型打开一个Selector。
b:注册通道,注册通道方法register,通过该方法绑定通道和线程。
c:执行任务,run方法最终调用的processSelectedKey方法是真正执行任务的代码,该方法通过Java NIO中的SelectionKey和channel真正执行执行通道的IO读写操作。
以上过程是不是有种似曾相识的感觉?没错,就是Java NIO的操作流程的封装!
3:NioEventLoopGroup原理分析:
我们前面说了NioEventLoop能干什么,但是并没有说怎么干的,谁指使他干的?我们下面回答这个问题。
首先,我们新建NioEventLoopGroup线程组,追踪其源码调用链
1 2 3 4 5 6好,追踪到这里我们可以发现,在不填写参数的情况下创建的线程数是CPU个数的2倍!继续往下追踪.....
7 7.1调用链到这里只有nThreads是有值的,executor为空,所以新建了一个ThreadPerTaskExecutor,这个类本质上是一个Java的Executor线程执行器,可以执行任务,继续。。。。
7.2还是7环节中的构造方法,我们看到,这个MultiThreadEventLoopGroup内置了一个线程执行器数组,数组长度与线程个数相同,下面调用了newChild给每个执行器数组元素赋值,点击进入newChild方法,由于我们调用的是NioEventLoopGroup,所以进入NioEventLoop的实现。。。。
7.3 7.3.1 7.3.2看见没,这个new NioEventLoop(this,executor,(SelectorProvider)args[0]);方法,这就是最终NioEventLoopGroup线程组的组成元素,构造NioEventLoop过程中给它传入了我们的ThreadPerTaskExecutor执行器。最后这个调用链还调用了openSelector()启动Selector!!!
总结:压缩以上过程,NioEventLoopGroup通过内置EventExecutor数组而实现线程组,而EventExecutor数组内部元素是NioEventLoop,所以可以说NioEventLoopGroup在构造过程中创建了2*CPU个NioEventLoop待用!!!!
4:启动:
前面我们剖析了NioEventLoopGroup是怎么由NioEventLoop构成的,下面我们分析下NioEventLoop是怎么工作的!
1我们直接看图1,bootstrap.bind方法,点击进入调用链
2绑定IP和端口。。。
3 4调用至此,首先initAndRegister方法初始化了一条通道,并把ChannelFuture预期也绑定到了通道上。...
4.1可以看到initAndRegister创建了一条通道并对通道进行了初始化,这个过程实际上把Channel通道内部的eventLoop设置成了bossGroup中的NioEventLoop
4.1.1这是ServerBootstrap中的方法,group()方法返回的实际上是bossGroup,next()方法则从bossGroup中返回一个NioEventLoop。
直到目前,所有的工作还都是有main线程来执行的,channelFactory方法返回的是ServerBootstrapChannelFactory,newChannel方法创建的是NioServerSocketChannel(还记得你写的代码里.channel(NioServerSocketChannel)方法吗?这里的channel就是根据这个来的,具体源码略)
4.1.2 4.1.3NioServerSocketChannel实例化的时候设置了感兴趣的通道事件为OP_ACCEPT!!!沿着这个实例化链,一直到AbstractChannel,最终给该实例设置了pipeline、unsafe、bossGroup的NioEventLoop三个成员变量。我们继续查看4.1环节中的channel.unsafe.register()方法,我们现在知道channel是我们刚刚创建的NioServerSocketChannel实例,unsafe方法返回的是该实例的成员变量,该实例内部还有一个bossGroup的线程模型实例。
4.1.4这个register方法是AbstractChannel中的方法,所以eventLoop就是boss线程模型,boss线程模型执行register0方法,所以这个register方法绑定了通道与bossgroup线程!!!继续看init(channel)方法、、、
4.1.5main线程执行的init方法是ServerBootstrap中的方法,其中handler()方法就是我们代码里写的.handler(handler)。init方法内部还创建了一条流水线pipeline,并在流水线里加入了一个ServerBootstrapAcceptor,注意,我们用的是netty5.0,这和netty4.0里是有变化的,netty5.0并没有直接给ServerBootstrapAcceptor设置一个workerGroup,而仅仅是设置了一些childHandler!!!
我们继续追踪,希望找到通道是怎么与workerGroup绑定的!!!!继续追踪doBind0方法.....
5 6 7 8 8.1doBind0中我们发现,刚刚初始化并且绑定了NioEventLoop的方法调用了eventLoop()方法得到了一个Boss的NioEventLoop,然后调用NioEventLoop的execute方法执行一个任务,execute方法是NioEventLoop的父类SingleThreadEventExecutor的方法,该方法内部调用了startThread方法、doStartThread方法,最终到executor.execute方法,而这里的executor就是我们在new NioEventLoopGroup的内部创建的那个ThreadPerTaskExecutor,该方法中调用了SingleThreadEventExecutor.this.run(),而这个run方法正是我们的NioEventLoop的run方法!!!
我们追踪run方法可以找到一条调用链processSelectedKeysPlain(selector.selectedKeys())-->processSelectedKeysPlain-->processSelectedKey-->
8.2最终调用了8.2的方法,整个调用链都是由bossGroup中的线程执行的,知道这里unsafe.read()方法,该方法会继续调用链,一直到
8.3一直到doReadMessages方法,可以看到,该方法内部new NioSocketChannel里边设置了绑定了一个workerGroup的线程!!!回到doReadMessages上一层,我们这里给绑定一个worker线程之后,boss线程就会调用fireChannelRead方法,这时候真正执行的线程就是worker了!!!
我们再次审视下ThreadPerTaskExecutor这个类:
9刚刚的execute方法就是这里的execute,这里先利用线程工厂新建了一个线程,然后调用了线程的start()方法,真正的启动了NioEventLoop这个线程的run方法!!!
OK,以上这个过程解释了NioEventLoop线程模型怎么干的问题!
网友评论