Netty简介

一、Netty概述

Netty是一个异步事件驱动的网络应用框架，用于快速开发可维护的高性能协议服务器和客户端。

JDK原生也有一套网络应用程序API，但是存在一系列问题：

（1）NIO的类库和API繁杂，使用卖法，需要熟练掌握Selector、ServerSocketChannel、SocketChannle、Buffer等。

（2）需要具备其他的额外技能做铺垫。例如熟悉Java多线程

（3）可靠性能力补齐，开发工作了和难度都非常大。

（4）JDK NIO的Bug。如Epoll Bug，它会导致Selector空轮询，最终导致CPU 100%。

二、Netty特点

Netty对JDK自带的NIO的API进行封装，主要特点有：

（1）设计优雅，适用于各种出书类型的统一API阻塞和非阻塞Socket；基于灵活且可扩展的事件模型，可以清晰的分离关注点；高度可定制的线程模型-单线程，一个或多个线程池；真正的无连接数据报套接字支持。

（2）使用方便，详细记录的Javadoc，用户指南和实例；没有洽谈依赖项。

（3）高性能，吞吐量搞，延迟更低；减少资源小高；最小化不必要的内存复制。

（4）安全，完整的SSL/TLS和StartsTLS支持。

（5）社区活跃，不断更新，Bug及时修复。

1、Netty的使用场景

（1）互联网行业。在分布式系统中，各个节点之间需要远程服务调用，高性能的RPC框架必不可少，Netty作为异步高性能的通信框架，旺旺作为基础通信组件被这些RPC框架使用。比如Dubbo的Dubbo协议默认使用Netty作为基础通信组件。

（2）游戏行业。无论是手游服务器还是大型的网络游戏，Java都有广泛的应用。Netty作为高性能的基础通信组件，它本身提供了TCP/UDP和HTTP协议栈。

（3）大数据领域。Hadoop的高性能通信和序列化组件Avro的RPC框架，默认采用Netty进行跨界点通信。

2、Netty的高性能设计

Netty作文异步事件驱动的网络，高性能支出主要来自于其I/O模型和线程处理模型，潜在决定如何收发数据，后者决定如何处理数据。

（1）I/O模型

    传统的I/O模型（BIO）:

    特点如下：

    每个请求都需要单独的线程完成数据的Read，业务处理，数据Write的完成操作问题。

    当并发数较大时，需要创建大量线程来处理连接，系统资源占用较大。

    连接建立后，如果当前线程暂时没有数据可读，则线程就阻塞在Read操作室，造成线程资源浪费。

（2）I/O复用模型

    在I/O复用模型中，会用到Select,这个函数也会使进程阻塞，但是和阻塞I/O所不同的是，这两个函数可以同时阻塞多个I/O操作。

    而且可以同时对多个读操作，多个写操作的I/O函数进行检测，知道数据可读或可写时，才真正的调用I/O操作函数。

（3）Netty的非阻塞I/O

    Netty的非阻塞I/O的实现关坚是基于I/O复用模型，即selector对象。

    Netty聚合了多路复用器Seletor，可以同时并发处理成败上千个客户端连接。当线程从某个客户端Socket通道进行读写数据时，若没有数据可用时，该线程可以进行其他任务。线程通常将非阻塞IO的空闲时间用于在其他通道上执行IO操作，所以单独的线程可以管理多个输入和输出通道。由于读写操作都是非阻塞的，这就可以充分提升IO线程的运行效率，避免由于频繁提升IO阻塞导致的线程挂起。一个I/O线程可以并发处理多个客户端连接和读写操作，这从根本上解决了传统同步阻塞IO一连一线程模型，架构的性能，弹性伸缩能力和可靠性都得到了极大的提升。

（3）基于Buffer

    传统的IO是面向字节流或者字符流的，以流式的方式顺序地从一个Stream中读取一个或多个字节，因此也就不能随意改变读取指针的位置。在NIO中，引入了Channel和Buffer的概念，只能从Channle读取数据到Buffer中，或者将数据从Buffer中写入到Channel。NIO中可以随意的读取任意位置的数据。

（4）事件驱动模型

    一般时间处理模型可以设计为：

    轮询方式，线程不断轮询访问相关时间源有没有发生事件，有发生事件就调用事件处理逻辑。

    事件驱动方式，发生事件，主线程把事件放入事件队列，在另外线程不断循环消费时间列表中的事件，调用事件对应的处理逻辑事件。事件驱动方式也被称为消息通知方式，也就是观察者模式。

    事件驱动模型主要包括4个基本组件：

    事件队列：接收事件的入口，存储待处理时间。

    分发器：将不同的事件分发到不同的业务逻辑单元。

    事件通道：分发器和处理器之间的联系通道。

    事件处理器：实现业务逻辑，处理完成后会发出事件，触发下一步操作。

    事件驱动的优点：可扩展性好，分布式的异步架构，事件处理器之间高度解耦，可以方便扩展事件处理逻辑。高性能，基于队列暂存事件，能方便并行异步处理事件。

（5）Reactor线程模型

    Reactor模型是指通过一个或多个输入同时传递给服务处理器的服务请求的事件驱动处理模式。服务端程序处理传入多路请求，并将它们同步分派给请求对应的处理线程，Reactor模式也叫Dispatcher模式，即IO多路复用统一监听事件，收到事件后分发。

    Reactor的两个重要组成：

    Reactor，Reactor在一个单独的线程中运行，负责监听和分发事件，分发给适当的处理程序对IO事件作出反应。

    Handlers，处理程序执行IO时间要完成的实际事件。

（6）Netty线程模型

    Netty主要基于主从Reactors多线模型做了一定的修改：

    MainReactor负责客户端的连接请求，并将请求转交给SubReactor。

    SubReactor负责相应通道的IO读写请求。

    非IO请求的任务则会直接写入队列，等到worker threads进行处理。

（7）异步处理

    当一个异步过程调用发出后，调用者不能立刻得到结果，实际处理调用这个调用的不见在完成后，通过状态，通知和回调来通知调用者。

    Netty中的I/O操作是异步的，包括Bind，Write,Connect等操作会简单的返回一个ChannelFuture。

    调用者并不能立刻获得结果，而是通过Future-Listener机制，用户可以方便的主动获取或者通过通知机制获取IO操作结果。

    当Future对象刚刚创建的时候，处于非完成状态，调用者可以通过返回的ChannleFuture来获取操作执行状态，注册监听函数来执行完成后的操作。

    常见有如下操作：

    通过 isDone 方法来判断当前操作是否完成。

    通过 isSuccess 方法来判断已完成的当前操作是否成功。

    通过 getCause 方法来获取已完成的当前操作失败的原因。

    通过 isCancelled 方法来判断已完成的当前操作是否被取消。

    通过 addListener 方法来注册监听器，当操作已完成(isDone 方法返回完成)，将会通知指定的监听器；如果 Future 对象已完成，则理解通知指定的监听器。

3、功能特性

Netty的功能特性如下：

    传输服务：支持BIO和NIO；

    容器集成：支持OSGI,JBossMC，Spring，Guice容器；

    协议支持：HTTP,Protobuf，二进制，文本，WebSocket等一系列协议；

    Core核心：可扩展事件模型。通用通信API，支持领考费的ByteBuf缓冲对象。

4、模块组件

（1）Bootstrap、ServerBootstrap，一个Netty应用通常由一个Bootstrap开始，主要作用是配置整个Netty程序，串联各个组件，Netty中Bootstrap类似客户端程序的启用引导类，ServerBootstrap是服务端启动引导类。

（2）Future、ChannelFuture，在Netty中所有的I/O操作都是异步的，不能like得知消息是否被正确处理。通过Future和ChannelFuture可以注册一个监听，当操作执行成功或者失败时，监听会自动触发注册事件。

（3）Channel，它为用户提供当前网络连接的通道的状态；网络连接的配置参数；提供一部的网络I/O操作；支持关联I/O操作与对应的处理程序。常用的Channel类型：

    NioSocketChannle，异步的客户端TCP Socket连接；

    NioServerSocketChannle，异步的服务器端TCP Socket连接；

    NioDatagramChannel，异步额UDP连接；

    NioSctpChannel，异步的客户端Sctp连接；

    NioSctpServerChannel，异步的Sctp服务器连接。

（4）Selector，Netty基于Selector对象实现I/O多路复用，通过Selector一个线程可以监听多个连接的Channel事件。当向一个Selector注册Channel后，Selector内部的机制就可以自动不断地查询这些注册的Channel是否有已就绪的I/O事件，这样程序就可以简单地使用一个线程高校地管理多个Channel。

（5）NioEventLoop，NioEventLoop 中维护可一个线程和任务队列，支持异步提交执行任务，线程启动时会调用NioEventLoop 的run方法，执行I/O任务和非I/O任务。

    I/O任务，即selectionKey中的ready事件，如accept、connect、read、write等，由processSelectedKeys 方法触发。

    非I/O任务，添加到taskQueue 的任务，如register()，bind()等任务，由runAllTasks方法触发。

两种任务的执行事件比由变量ioRatio控制，默认为50，表示允许非I/O任务执行的时间与I/O任务的执行时间相等。

（6）NioEventLoopGroup，主要管理eventLoop的生命周期，可以理解为一个线程池，内部维护了一组线程，每个线程（NioEventLoop）负责处理多个Channel上的时间，而一个Channel只对应于一个线程。

（7）ChannelHandler，ChannelHandler 是一个接口，处理 I/O 事件或拦截 I/O 操作，并将其转发到其 ChannelPipeline(业务处理链)中的下一个处理程序。

    ChannelHandler 本身并没有提供很多方法，因为这个接口有许多的方法需要实现，方便使用期间，可以继承它的子类：

        ChannelInboundHandler 用于处理入站 I/O 事件。

        ChannelOutboundHandler 用于处理出站 I/O 操作。

    或者使用以下适配器类：

        ChannelInboundHandlerAdapter 用于处理入站 I/O 事件。

        ChannelOutboundHandlerAdapter 用于处理出站 I/O 操作。

        ChannelDuplexHandler 用于处理入站和出站事件。

（8）ChannelHandlerContext，保存 Channel 相关的所有上下文信息，同时关联一个 ChannelHandler 对象。

（9）ChannelPipline，保存 ChannelHandler 的 List，用于处理或拦截 Channel 的入站事件和出站操作。

    ChannelPipeline 实现了一种高级形式的拦截过滤器模式，使用户可以完全控制事件的处理方式，以及 Channel 中各个的 ChannelHandler 如何相互交互。

    I/O 事件由 ChannelInboundHandler 或 ChannelOutboundHandler 处理，并通过调用 ChannelHandlerContext 中定义的事件传播方法。