美文网首页
4.2.1、I/O模型

4.2.1、I/O模型

作者: lesline | 来源:发表于2018-10-15 09:56 被阅读13次

    NIO

    NIO(Non-blocking I/O,在Java领域,也称为New I/O),是一种同步非阻塞的I/O模型,也是I/O多路复用的基础,已经被越来越多地应用到大型应用服务器,成为解决高并发与大量连接、I/O处理问题的有效方式。
    NIO的特点:事件驱动模型、单线程处理多任务、非阻塞I/O,I/O读写不再阻塞,而是返回0、基于block的传输比基于流的传输更高效、更高级的IO函数zero-copy、IO多路复用大大提高了Java网络应用的可伸缩性和实用性。基于Reactor线程模型。

    一般来说 I/O 模型可以分为:同步阻塞,同步非阻塞,异步阻塞,异步非阻塞 四种IO模型。


    I:O 模型.png

    以socket.read()为例子:

    传统的BIO里面socket.read(),如果TCP RecvBuffer里没有数据,函数会一直阻塞,直到收到数据,返回读到的数据。
    对于NIO,如果TCP RecvBuffer有数据,就把数据从网卡读到内存,并且返回给用户;反之则直接返回0,永远不会阻塞。
    最新的AIO(Async I/O)里面会更进一步:不但等待就绪是非阻塞的,就连数据从网卡到内存的过程也是异步的。
    换句话说,BIO里用户最关心“我要读”,NIO里用户最关心"我可以读了",在AIO模型里用户更需要关注的是“读完了”。
    NIO一个重要的特点是:socket主要的读、写、注册和接收函数,在等待就绪阶段都是非阻塞的,真正的I/O操作是同步阻塞的(消耗CPU但性能非常高)

    同步阻塞 IO :

    在此种方式下,用户进程在发起一个 IO 操作以后,必须等待 IO 操作的完成,只有当真正完成了 IO 操作以后,用户进程才能运行。 JAVA传统的 IO 模型属于此种方式!

    同步非阻塞 IO:

    在此种方式下,用户进程发起一个 IO 操作以后可以返回做其它事情,但是用户进程需要时不时的询问 IO 操作是否就绪,这就要求用户进程不停的去询问,从而引入不必要的 CPU 资源浪费。其中目前 JAVA 的 NIO 就属于同步非阻塞 IO 。

    异步阻塞 IO :

    此种方式下是指应用发起一个 IO 操作以后,不等待内核 IO 操作的完成,等内核完成 IO 操作以后会通知应用程序,这其实就是同步和异步最关键的区别,同步必须等待或者主动的去询问 IO 是否完成,那么为什么说是阻塞的呢?因为此时是通过 select 系统调用来完成的,而 select 函数本身的实现方式是阻塞的,而采用 select 函数有个好处就是它可以同时监听多个文件句柄,从而提高系统的并发性!

    异步非阻塞 IO:

    在此种模式下,用户进程只需要发起一个 IO 操作然后立即返回,等 IO 操作真正的完成以后,应用程序会得到 IO 操作完成的通知,此时用户进程只需要对数据进行处理就好了,不需要进行实际的 IO 读写操作,因为 真正的 IO读取或者写入操作已经由 内核完成了。java7开始支持。

    上面我们说到nio是使用了同步非阻塞模型。我们知道典型的非阻塞IO模型一般如下:

    while(true){
        data = socket.read();
        if(data!= error){
            处理数据
            break;
        }
    

    但是对于非阻塞IO就有一个非常严重的问题,在while循环中需要不断地去询问内核数据是否就绪,这样会导致CPU占用率非常高,因此一般情况下很少使用while循环这种方式来读取数据。所以这就不得不说到下面这个概念–多路复用IO模型。

    多路复用IO模型

    在多路复用IO模型中,会有一个线程不断去轮询多个socket的状态,只有当socket真正有读写事件时,才真正调用实际的IO读写操作。因为在多路复用IO模型中,只需要使用一个线程就可以管理多个socket,系统不需要建立新的进程或者线程,也不必维护这些线程和进程,并且只有在真正有socket读写事件进行时,才会使用IO资源,所以它大大减少了资源占用。

    NIO 的非阻塞 I/O 机制是围绕 选择器和 通道构建的。 Channel 类表示服务器和客户机之间的一种通信机制。Selector 类是 Channel 的多路复用器。 Selector 类将传入客户机请求多路分用并将它们分派到各自的请求处理程序。

    //获取一个ServerSocket通道
    ServerSocketChannel serverChannel = ServerSocketChannel.open();
    serverChannel.configureBlocking(false);
    serverChannel.socket().bind(new InetSocketAddress(port));
    //获取通道管理器
    selector = Selector.open();
    //将通道管理器与通道绑定,并为该通道注册SelectionKey.OP_ACCEPT事件,
    serverChannel.register(selector, SelectionKey.OP_ACCEPT);
    
    while(true){
        //当有注册的事件到达时,方法返回,否则阻塞。
       selector.select();
       for(SelectionKey key : selector.selectedKeys()){
           if(key.isAcceptable()){
               ServerSocketChannel server =
                    (ServerSocketChannel)key.channel();
               SocketChannel channel = server.accept();
               channel.write(ByteBuffer.wrap(
                new String("send message to client").getBytes()));
               //在与客户端连接成功后,为客户端通道注册SelectionKey.OP_READ事件。
               channel.register(selector, SelectionKey.OP_READ);
           }else if(key.isReadable()){//有可读数据事件
               SocketChannel channel = (SocketChannel)key.channel();
               ByteBuffer buffer = ByteBuffer.allocate(10);
               int read = channel.read(buffer);
               byte[] data = buffer.array();
               String message = new String(data);
               System.out.println("receive message from client, size:"
                   + buffer.position() + " msg: " + message);
           }
       }
    }
    

    执行过程如图:


    NIO执行过程.png

    Acceptor注册Selector,监听accept事件
    当客户端连接后,触发accept事件
    服务器构建对应的Channel,并在其上注册Selector,监听读写事件
    当发生读写事件后,进行相应的读写处理

    Reactor设计模式

    在Reactor模式中,包含如下角色:
    Reactor 将I/O事件发派给对应的Handler
    Acceptor 处理客户端连接请求
    * 要注意其实Acceptor也是一个Handler(只是与它关联的channel是ServerSocketChannel而不是SocketChannel)
    * Handlers 执行非阻塞读/写

    NIO 设计背后的基石是反应器(Reactor)设计模式。
    Reactor负责IO事件的响应,一旦有事件发生,便广播发送给相应的handler去处理。而NIO的设计则是完全按照Reactor模式来设计的。Selector发现某个channel有数据时,会通过SelectorKey来告知,然后实现事件和handler的绑定。

    Selection Key Channel Handler Interested Operation
    ————————————————————————————————————
    SelectionKey 0 ServerSocketChannel Acceptor Accept
    SelectionKey 1 SocketChannel 1 Handler 1 Read and Write
    SelectionKey 2 SocketChannel 2 Handler 2 Read and Write
    SelectionKey 3 SocketChannel 3 Handler 3 Read and Write

    阻塞式网络 IO 的缺点:多线程处理多个连接。每个线程拥有自己的栈空间并且占用一些 CPU 时间。每个线程遇到外部为准备好的时候,都会阻塞掉。阻塞的结果就是会带来大量的进程上下文切换。且大部分进程上下文切换可能是无意义的。比如假设一个线程监听一个端口,一天只会有几次请求进来,但是该 cpu 不得不为该线程不断做上下文切换尝试,大部分的切换以阻塞告终。

    这种方式带来的好处也是不言而喻的。利用多路复用机制避免了线程的阻塞,提高了连接的数量。一个线程就可以管理多个socket,只有当socket真正有读写事件发生才会占用资源来进行实际的读写操作。虽然多线程+ 阻塞IO 达到类似的效果,但是由于在多线程 + 阻塞IO 中,每个socket对应一个线程,这样会造成很大的资源占用,并且尤其是对于长连接来说,线程的资源一直不会释放,如果后面陆续有很多连接的话,就会造成性能上的瓶颈。

    另外多路复用IO为何比非阻塞IO模型的效率高是因为在非阻塞IO中,不断地询问socket状态时通过用户线程去进行的,而在多路复用IO中,轮询每个socket状态是内核在进行的,这个效率要比用户线程要高的多。

    Java NIO 反应器(Reactor)模式 - CSDN博客

    AIO

    注:AIO又称为NIO2.0,在JDK7才开始支持。
    服务器实现模式为一个有效请求一个线程,客户端的I/O请求都是由OS先完成了再通知服务器应用去启动线程进行处理,
    在此种模式下,用户进程只需要发起一个IO操作然后立即返回,等IO操作真正的完成以后,应用程序会得到IO操作完成的通知,此时用户进程只需要对数据进行处理就好了,不需要进行实际的IO读写操作,因为真正的IO读取或者写入操作已经由内核完成了。

    ReadCompletionHandle

    Reactor模式和Proactor模式的区别

    Reactor模式

    首先来看看Reactor模式,Reactor模式应用于同步I/O的场景。我们分别以读操作和写操作为例来看看Reactor中的具体步骤:
    读取操作:

    1. 应用程序注册读就绪事件和相关联的事件处理器
    2. 事件分离器等待事件的发生
    3. 当发生读就绪事件的时候,事件分离器调用第一步注册的事件处理器
    4. 事件处理器首先执行实际的读取操作,然后根据读取到的内容进行进一步的处理

    写入操作类似于读取操作,只不过第一步注册的是写就绪事件。

    Proactor模式

    下面我们来看看Proactor模式中读取操作和写入操作的过程:
    读取操作:

    1. 应用程序初始化一个异步读取操作,然后注册相应的事件处理器,此时事件处理器不关注读取就绪事件,而是关注读取完成事件,这是区别于Reactor的关键。
    2. 事件分离器等待读取操作完成事件
    3. 在事件分离器等待读取操作完成的时候,操作系统调用内核线程完成读取操作(异步IO都是操作系统负责将数据读写到应用传递进来的缓冲区供应用程序操作,操作系统扮演了重要角色),并将读取的内容放入用户传递过来的缓存区中。这也是区别于Reactor的一点,Proactor中,应用程序需要传递缓存区。
    4. 事件分离器捕获到读取完成事件后,激活应用程序注册的事件处理器,事件处理器直接从缓存区读取数据,而不需要进行实际的读取操作。

    Proactor中写入操作和读取操作,只不过感兴趣的事件是写入完成事件。

    从上面可以看出,Reactor和Proactor模式的主要区别就是真正的读取和写入操作是有谁来完成的,Reactor中需要应用程序自己读取或者写入数据,而Proactor模式中,应用程序不需要进行实际的读写过程,它只需要从缓存区读取或者写入即可,操作系统会读取缓存区或者写入缓存区到真正的IO设备.

    总结

    BIO方式适用于连接数目比较小且固定的架构,这种方式对服务器资源要求比较高,并发局限于应用中,JDK1.4以前的唯一选择,但程序直观简单易理解。
    NIO方式适用于连接数目多且连接比较短(轻操作)的架构,比如聊天服务器,并发局限于应用中,编程比较复杂,JDK1.4开始支持。
    AIO方式使用于连接数目多且连接比较长(重操作)的架构,比如相册服务器,充分调用OS参与并发操作,编程比较复杂,JDK7开始支持。


    参考:

    【总结】Java NIO浅析 - CSDN博客
    java学习-NIO(五)NIO学习总结以及NIO新特性介绍 - CSDN博客
    BIO与NIO、AIO的区别(这个容易理解) - CSDN博客
    高性能Server—Reactor模型 - 简书

    相关文章

      网友评论

          本文标题:4.2.1、I/O模型

          本文链接:https://www.haomeiwen.com/subject/obwxzftx.html