netty概念小结

作者: 晴天哥_王志 | 来源:发表于2018-04-08 14:23 被阅读0次

        清明抽空看了下netty部分的知识点,总结一下发布在简书上,netty本身涵盖的知识点比较多,一篇文章也讲不完那么多,这篇文章主要是普及 netty的Reactor模型server初始化client初始化三块内容,当然也会将寻找的参考资料一并贴出来,其实互联网已经很多人对netty做了大量的研究。

        在开始之前建议看下永顺同学的总结文章,对于netty部分讲解的非常清楚。

    Nio Reactor介绍

    网上一般把Nio和Bio进行对比介绍,这里也借用互联网的资料开个头,基本上大体来讲BIO/NIO两个进行对比,然后在NIO内部又有多种实现,存在细微差别。

    BIO模型

    BIO模型

    说明:

        1、单个线程进行监听,accept连接并提交给线程或者线程池进行处理(一个连接建立成功后,创建一个单独的线程处理其I/O操作),在这个基础上考虑到创建线程和销毁线程的开销,一般后端会维持一个线程池,然后提交给线程池进行处理。

        2、BIO方式适用于连接数目比较小且固定的场景,这种方式对服务器资源要求比较高,并发局限于应用中。

    经典Reactor模式

    经典Reactor模式

    说明

        1、经典的Reactor模型内部维持一个selector对象(有兴趣可以去了解下select和epoll两种实现方式),selector对象中维持一个监听socket负责accept连接,在取得连接后将accept的连接同样注册到同一个selector当中,通过selector的消息通知机制来触发消息的读写。优点在于不不需要新建很多线程,缺点在于通过单线程处理所有的连接请求会存在性能瓶颈。

    多工程线程Reactor模式

    多工作线程Reactor模式

    说明:

        1、多工作线程的Reactor模式是在经典的Reactor模式基础上为了解决刚刚存在问题而进行了改进,将消息的读取和处理进行剥离,也就是说原本的单个selector负责连接的建立和消息的读取,但是消息读取以后的处理过程交由线程池进行处理,这样就部分解决了经典Reactor模式下弊端,但是依然存在问题,单个selector依然会需要处理accept和read等事件,那么下一步就需要把这一步问题进一步进行剥离。

    多Reactor

    多Reactor

    说明

        多Reactor模型其实是在多工作线程Reactor模式进行进一步优化,将监听的selector和处理IO的selector进行角色分离,在该模式下主Reactor负责监听连接将新socket注册注册到子Reactor当中,通过分工后主Reactor只需要负责监听socket连接,子Reactor负责处理IO事件。

    Netty采用的模型

        netty基本上支持以上的多种模型,不过netty的多Reactor模型其实没有ThreadPool那一部分,netty进行了Reactor的主从分离。

    Netty-server初始化

    基本概念

    Channel

        可以简单理解为包装了socket的集合体,内部包括比较多属性,核心的属性包括socket、pipeline,在netty当中每个Channel是负责数据传输的socket,在其内部包含消息处理链条PipeLine,PipeLine包含了in/out事件需要进行的一系列处理动作。

    PipeLine

        pipeline其实就是所谓的职责链,相当于一个双向链表,内部包含了正向IN消息的处理handler列表和反向OUT消息的处理handler列表。    

    NioEventLoop

        NioEventLoop可以理解为Channel的依附实体,每个NioEventLoop包含一个执行线程和一个selector对象,其中selector对象负责提供给Channel进行注册,由执行线程循环检测是否有事件到来,注意Channel和NioEventLoop是1:N的关系,也就是说一个Channel只能注册到一个NioEventLoop当中,一个NioEventLoop可以提供给多个Channel注册。   

    NioEventLoopGroup

    NioEventLoopGroup是NioEVentLoop的对象集合,就是NioEventLoopGroup包含多个NioEventLoop,还记得上面提到Reactor模型里面的子Reactor对象么,其实就是多个NioEventLoop,在我们主Reactor执行accept操作后会把socket注册到子Reactor对象当中,那么子NioEventLoopGroup是一个NioEventLoop的集合,会按照hash随机选择一个进行注册。

    debug入门

    debug入门

    说明

        如果要了解netty-server端的初始化过程,最好的办法就是直接对源码进行debug,如何debug就比较简单了,github下载工程然后找到example的例子,找到server/client进行debug就可以了。

    EventLoopGroup初始化过程

    说明

        1、EventLoopGroup整个初始化过程,其实我的理解最核心的部分是创建指定数目的NioEventLoop对象,然后供ServerBootStrap进行选择。所以这个部分我觉得最关键的是掌握这个点就可以了。

    NioEventLoopGroup类图

    说明

        MultithreadEventExecutorGroup内部其实帮我们执行了创建EventLooop对象。

    NioEventLoopGroup核心初始化过程

    说明

        真正需要关注的点已经标红了,就是按照CPU核数创建了EventLoop对象,并对外提供一个chooser的方法提供EventLoop对象的选择。

    NioEventLoopGroup初始化序列图

    说明

        此图来自互联网永顺同学贡献,这里提供链接。

    Bootstrap初始化过程

    bootstrap初始化

    说明

        bootstrap初始化过程其实主要是设置了一些属性,其中handler()和childHandler()两个方法特别重要,前置设置了主Reactor当中Channel的一个处理逻辑,后者设置了从Reactor当中Channel的一个处理逻辑。

    server端初始化过程

        server端的初始化大体来说主要包含init、register、bind三个步骤,其中init主要是初始化Channel、register主要是注册Channel到selector当中、bind主要是将socket绑定指定的ip和port,不过整个过程其实不是同步调用进行的,而是通过线程池提交任务的形式实现的,这个很重要,否则你看代码时候会一头雾水。

        server端从另外一个角度分析的话,其实包括两个过程,一个是Channel的注册过程,一个是事件的触发过程。

    整体初始化过程

    说明

         此图来自互联网永顺同学贡献,这里提供链接。

        client/server端的注册过程都是一样的,所以图也是通用的

    初始化的入口

    server端注册过程-1

    说明

        参见AbstractBootstrap类

        基本上包括了initAndRegister、bind两个过程,initAndRegister负责初始化NioServerSocketChannel并注册到NioEventLoop当中,bind负责绑定指定的ip和port。

    InitAndRegister过程

    server端注册过程-2

    说明

        参见AbstractBootstrap类

        创建NioServerSocketChannel对象,这里之所以能够通过反射进行创建,是因为创建ServerBootstrap的时候指定了NioServerSocketChannel类,具体事情参见下图分析。

        初始化Channel的一些属性,里面最重要的一步就是绑定了ChannelInitialize的handler,具体见下图分析。

        register负责把NioServerSocketChannel绑定到NioEventLoop对象当中,见下图。

    InitAndRegister - 创建Channel过程

    NioSERverSocketChannel的创建过程

    说明

        创建了NioServerSocketChannel对象,对象的属性包括pipeLine,channel对象等

    InitAndRegister - Init Channel过程

    Channel的init过程

    说明

        核心点在于在于绑定了ServerSocket的初始化调用链


    InitAndRegister - 注册Channel到EventLoop过程

    Chanel注册过程选择EventLoop对象 Channel注册到eventLoop当中 启动eventLoop的任务线程并提交任务

    说明

        首先选择一个EventLoop对象进行注册

        注册过程中执行eventLoop.execute动作,这个动作内部会先创建一个线程,然后把register0的动作封装成任务提交给eventLoop执行。

        注意这里的task其实是就是Register0封装的一个Runnable对象。

    InitAndRegister - Register事件触发过程

    Register事件的触发过程

    说明

        1、注册Channel到指定的EvengLoop的selector当中。

        2、调用NioServerSocketChannel的Initialized方法实现主Reactor关联的pipeLine上的事件的注册,包括LoggingHandler和ServerBootstrapAcceptor两个Handler,在执行Initialized方法后在pipeLine链条会包含LoggingHandler,因为ServerBootstrapAcceptor这个动作是另外提交了一个任务。

        3、通过fireChannelRegistered()调用触发注册事件。

    invokeHandlerAddedIfNeeded执行效果

    Bind事件触发过程

    bind过程 bind动作从tail开始遍历pipeLine 触发Active动作

    说明:

        1、参见AbstractChannel类

        2、bind过程中除了遍历pipeLine执行相关handler后最后由header完成bind动作

        3、bind的最后触发了active动作,都是以任务的形式提交的,active动作从head开始遍历pipeline到tail

    Netty的事件处理

    NioEventLoop的循环执行过程 accept新socket并注册子EventLoop过程

    说明:

        NioEventLoop内部不停处理事件,然后将连接的socket注册到子EventLoopGroup的EventLoop当中。

    Netty-client初始化

    Netty client的初始化其实是一个异步过程,也就是说我们connect的时候只是在EventLoop当中注册了一个OP_CONNECT的事件,然后连接成功后会触发这个事件,然后完成真正的连接操作。

    异步注册

    说明:

        参见NioSocketChannel类

    异步回调完成connect

    说明:

        1、参见NioEventLoop类

    Nio Reactor模型介绍:http://www.jasongj.com/java/nio_reactor/

    Nio Reactor模型问题:https://www.cnblogs.com/ivaneye/p/5731432.html

    netty分析:https://github.com/yongshun/learn_netty_source_code

    netty系列分析文章:https://blog.csdn.net/yexin94822739/article/category/6976420

    netty客户端解析:https://www.cnblogs.com/chenyangyao/p/5796867.html

    相关文章

      网友评论

        本文标题:netty概念小结

        本文链接:https://www.haomeiwen.com/subject/lbcphftx.html