1. 什么是IO
-
IO是机器回去和交换信息的主要渠道，而流式完成IO操作的主要方式
-
流是一种信息的转换，流是有序的。
-
机器间或者程序在进行信号交换时，总是将对象或者数据转换为某种形式的流，再通过流的传输，到达指定机器或程序后，再将流转换为对象数据。
-
流可以被看做是一种数据的载体，通过它可以实现数据交换和传输。
2. 传统IO的性能问题
-
磁盘IO：从磁盘中读取数据源输入到内存中，之后将读取的信息持久化输出在物理磁盘中。
-
网络IO：从网络中读取信息输入到内存，最终将信息输出到网络中。
1. 多次内存复制
-
DMA：外部设备不通过CPU而直接与内存交换数据的技术接口。这样数据传输的传送速度就取决于存储器和外设的工作速度。
-
计算机硬件上使用DMA来访问磁盘等IO，也就是请求发出后，CPU就不再管了，直到DMA处理器完成任务，再通过中断告诉CPU完成了。
所以单独的一个IO事件，对CPU的占用是很少的，阻塞了就更不会占用CPU了。因为程序都不继续运行了，CPU时间交给其他线程和进程了。
虽然IO不会占用大量的CPU时间，但是非常频繁的IO还是会非常浪费CPU的时间的。面对大量的IO任务，有时候需要算法来合并IO，或者通过cache来缓解IO压力的。 -
过程：数据先从外部设备复制到内核空间，再从内核空间复制到用户空间，发生了两次内存复制操作。这种操作会导致不必要的数据拷贝和上下文切换，从而降低IO性能。
-
JVM 会发出 read() 系统调用，并通过read系统调用向内核发起读请求。
-
内核向硬件发送读指令，并等待就绪
-
内核把将要读取的数据复制到指定的内核缓存中
-
操作系统内核将数据复制到用户空间缓冲区，然后read系统调用返回
2. 阻塞
-
在传统的IO中，INputStream的read是一个while循环操作，它会一直等待数据读取，直到数据就绪才返回。
这就意味着如果没有数据就绪，这个读取操作将会被一直挂起，用户线程将会处于阻塞状态（但是会让出CPU）。 -
在少量连接请求的情况下，这种方式没有问题，响应速度也很高，但是发生大量连接请求时，就需要创建大量监听线程。
这时如果线程没有数据就绪就会被挂起，然后进入阻塞状态，一旦发生线程阻塞，这些线程将会不断地抢夺CPU资源，从而导致大量的CPU上下文切换，增加系统的性能开销。
3. 优化IO操作
1. 使用缓冲区优化读写操作
Buffer 可以将文件一次性读入内存后再做后续处理，而传统的方式是边读文件边处理数据。
2. 使用DirectBuffer减少内存复制
-
普通的Buffer分配的是JVM堆，而DirectBuffer是直接分配物理内存(非堆内存)。
-
数据要输出到外部设备，必须先从用户空间复制到内核空间，再复制到输出设备。
在java中，在用户空间中又存在一个拷贝，那就是从java堆内存中拷贝到临时的直接内存中，通过临时的直接内存拷贝到内存空间中去。
此时的直接内存和堆内存都是属于用户空间。 -
使用非堆内存可以降低GC的压力
-
DirectBuffer则是直接将步骤简化为数据直接保存到非堆内存，从而减少了一次数据拷贝。
-
DirectBuffer是通过unsafea.allocateMemory(size)方法分配内存，也就是基于本地类Unsafe类调用native方法进行内存分配的。
-
优化用户空间和内核空间的拷贝：MappedByteBuffer 是通过本地类调用mmap进行文件内存映射的。
map()系统调用方法会直接将文件从硬盘拷贝到用户空间，只进行一次数据拷贝，从而减少了传统的read() 方法从硬盘拷贝到内核空间这一步。
3. 避免阻塞，优化IO操作
-
传统IO的数据读取和写入是从用户空间到内核空间来回复制，而内核空间的数据是通过操作系统层面的IO接口从磁盘读取或写入。
-
最开始，在应用程序调用操作系统IO接口时，是由CPU完成分配，这种方式最大的问题是 发生大量IO请求时，非常消耗CPU。
之后，操作系统引入了DMA(直接存储器存储)，内核空间与磁盘之间的存取完成由DMA负责。
但这种方式依然需要向CPU申请权限，且需要借助DMA总线来完成数据的复制操作。如果DMA总线过多，就会造成总线冲突。 -
channel有自己的处理器，可以完成内核空间和磁盘之间的IO操作。在NIO中，我们读取和写入数据都需要通过channel。由于channel是双向的，所以读写可以同时进行。
-
selector是基于事件驱动实现的，我们可以在selector中注册accept、read监听事件，selector会不断轮询注册在其上的channel。
如果某个channel上面发生监听事件，这个channel就处于就绪状态，然后进行IO操作。 -
一个线程使用一个selector，通过轮询的方式，可以监听多个channel上的事件。我们可以注册channel时设置该通道为非阻塞。
当channel上没有IO操作时，该线程就不会一直等待了，而是不断轮询所有channel，从而避免发生阻塞。 -
目前操作系统的IO多路复用机制都使勇了epool，相比传统的select机制，epoll没有最大连接句柄1024的限制。所以selector在理论上可以轮询成前上万的客户端。
网友评论