NIO基础篇

NIO概述

核心组件

• Channel:通道
• Selector:选择器
• Buffer:缓冲区

关系

Channel与Buffer

​ 数据可以从Channel中读到Buffer中,当然也可以从Buffer缓冲区写道Channel通道中.基本上，所有的 IO 在NIO 中都从一个Channel 开始。Channel 有点象流。 数据可以从Channel读到Buffer中，也可以从Buffer 写到Channel中。这里有个图示：

​ Channel和Buffer有好几种类型。下面是JAVA NIO中的一些主要Channel的实现：

• FileChannel
• DatagramChannel
• SocketChannel
• ServerSocketChannel

以下是Java NIO里关键的Buffer实现：

• ByteBuffer
• CharBuffer
• DoubleBuffer
• FloatBuffer
• IntBuffer
• LongBuffer
• ShortBuffer

​ 这些Buffer覆盖了你能通过IO发送的基本数据类型：byte, short, int, long, float, double 和 char。Java NIO 还有个 MappedByteBuffer，用于表示内存映射文件， 我也不打算在概述中说明。

Java NIO的通道类似流，但又有些不同：

• 既可以从通道中读取数据，又可以写数据到通道。但流的读写通常是单向的。
• 通道可以异步地读写。
• 通道中的数据总是要先读到一个Buffer，或者总是要从一个Buffer中写入。

这些是Java NIO中最重要的通道的实现：

• FileChannel
• DatagramChannel
• SocketChannel
• ServerSocketChannel

FileChannel 从文件中读写数据。

DatagramChannel 能通过UDP读写网络中的数据。

SocketChannel 能通过TCP读写网络中的数据。

ServerSocketChannel可以监听新进来的TCP连接，像Web服务器那样。对每一个新进来的连接都会创建一个SocketChannel。

Selector,Channel和Buffer

​ Selector允许单线程处理多个 Channel。如果你的应用打开了多个连接（通道），但每个连接的流量都很低，使用Selector就会很方便。例如，在一个聊天服务器中

​ 要使用Selector，得向Selector注册Channel，然后调用它的select()方法。这个方法会一直阻塞到某个注册的通道有事件就绪。一旦这个方法返回，线程就可以处理这些事件，事件的例子有如新连接进来，数据接收等

Buffer

个人理解:

1. buffer缓冲区是NIO中与Channel通道进行数据交互的.
2. 个人理解为:是内存中可以缓存一定量数据的容器(空间).

Buffer的基本用法

从缓冲区读写数据一般分为四步:

1. 读取数据写入到Buffer
2. 切换读写模式到从Buffer中读取数据flip()
3. 从Buffer中读取数据,进行自己的业务操作
4. 调用clear()方法或者compact()方法

​ 个人理解:首先把数据写入缓冲区,然后切换模式 到读模式,从缓冲区中读取已经写入的全部数据,需要注意的是一旦缓冲区被写入的数据沾满的话,就不能再写入数据了.这是我们需要把读取的数据进行清除,以便让缓冲继续可以写入数据,clear()会把缓冲区的数据全部清除,但是compact()不会把缓冲区的数据全部清楚的,它只会把已经读取的数据清除掉.

​ 简单使用的demo

try (
                //RandomAccessFile的参数,第一个是随意文件的路径,第二个是对文件的相对应的操作,具体请参考源码文档注释
                RandomAccessFile randomAccess = new RandomAccessFile("MPPRLogCodeCountService.properties", "rw");
        ) {
            long start = System.currentTimeMillis();
            //所有的IO在NIO中都从一个Channel开始。Channel有点象流。数据可以从Channel读到Buffer中，也可以从Buffer 写到Channel中
            FileChannel channel = randomAccess.getChannel();
            //第一步:把数据写进buffer
            //创建一个Buffer,初始容量是40
            ByteBuffer byteBuffer = ByteBuffer.allocate(1024);
            int read = channel.read(byteBuffer);
            while (read != -1) {
                byteBuffer.flip();  //切换为读的模式
                while (byteBuffer.hasRemaining()) {
                    System.out.print((char)byteBuffer.get());
                }
                byteBuffer.compact();
                read = channel.read(byteBuffer);
            }
            long end = System.currentTimeMillis();
            System.out.println("耗时: " + (end - start));
        } catch (Exception e) {
            e.printStackTrace();
        }

Buffer的capacity,position和limit

​ 缓冲区本质上是一块可以写入数据，然后可以从中读取数据的内存。这块内存被包装成NIO Buffer对象，并提供了一组方法，用来方便的访问该块内存。

它的三个属性：

• capacity
• position
• limit

​ capacity就是缓冲区的大小,不会随着Buffer模式的改变而改变.position和limit的含义取决于Buffer处在读模式还是写模式.

capacity

​ 作为一个内存块，Buffer有一个固定的大小值，也叫“capacity”.你只能往里写capacity个byte、long，char等类型。一旦Buffer满了，需要将其清空（通过读数据或者清除数据）才能继续写数据往里写数据。

position

​ 当你写数据到Buffer中时，position表示当前的位置。初始的position值为0.当一个byte、long等数据写到Buffer后， position会向前移动到下一个可插入数据的Buffer单元。position最大可为capacity – 1.

​ 当读取数据时，也是从某个特定位置读。当将Buffer从写模式切换到读模式，position会被重置为0. 当从Buffer的position处读取数据时，position向前移动到下一个可读的位置。

limit

​ 在写模式下，Buffer的limit表示你最多能往Buffer里写多少数据。 写模式下，limit等于Buffer的capacity。

​ 当切换Buffer到读模式时， limit表示你最多能读到多少数据。因此，当切换Buffer到读模式时，limit会被设置成写模式下的position值。换句话说，你能读到之前写入的所有数据（limit被设置成已写数据的数量，这个值在写模式下就是position）

Buffer的类型

Java NIO 有以下Buffer类型

• ByteBuffer
• MappedByteBuffer
• CharBuffer
• DoubleBuffer
• FloatBuffer
• IntBuffer
• LongBuffer
• ShortBuffer
• MappedByteBuffer

​ 这些Buffer类型代表了不同的数据类型。换句话说，就是可以通过char，short，int，long，float 或 double类型来操作缓冲区中的字节。

Buffer的分配

​ 要想获得一个Buffer对象首先要进行分配。 每一个Buffer类都有一个allocate方法。下面是一个分配48字节capacity的ByteBuffer的例子。

 ByteBuffer byteBuffer = ByteBuffer.allocate(1024);

向Buffer中写数据

写数据到Buffer有两种方式：

• 从Channel写到Buffer。
• 通过Buffer的put()方法写到Buffer里。

try (
                //RandomAccessFile的参数,第一个是随意文件的路径,第二个是对文件的相对应的操作,具体请参考源码文档注释
                RandomAccessFile randomAccess = new RandomAccessFile("MPPRLogCodeCountService.properties", "rw");
        ) {
            long start = System.currentTimeMillis();
            //所有的IO在NIO中都从一个Channel开始。Channel有点象流。数据可以从Channel读到Buffer中，也可以从Buffer 写到Channel中
            FileChannel channel = randomAccess.getChannel();
            //第一步:把数据写进buffer
            //创建一个Buffer,初始容量是40
            ByteBuffer byteBuffer = ByteBuffer.allocate(1024);
            int read = channel.read(byteBuffer);
            while (read != -1) {
                byteBuffer.flip();  //切换为读的模式
                while (byteBuffer.hasRemaining()) {
                    System.out.print((char)byteBuffer.get());
                }
                byteBuffer.compact();
                read = channel.read(byteBuffer);
            }
            long end = System.currentTimeMillis();
            System.out.println("耗时: " + (end - start));
        } catch (Exception e) {
            e.printStackTrace();
        }

​ put有很多重载的方法,具体的可参考JDK 8…API.

flip()方法

​ flip方法将Buffer从写模式切换到读模式。调用flip()方法会将position设回0，并将limit设置成之前position的值。

​ 换句话说，position现在用于标记读的位置，limit表示之前写进了多少个byte、char等 —— 现在能读取多少个byte、char等。

从Buffer中读取数据

从Buffer中读取数据有两种方式：

1. 从Buffer读取数据到Channel。
2. 使用get()方法从Buffer中读取数据。

第一种方式:

//read from buffer into channel.
int bytesWritten = inChannel.write(buf);

第二种方式具体的参考上面的例子.

clear()与compact()方法

​ 个人理解:clear()方法是把缓冲区的数据清理掉,即模式从读到写把position置0,limit置成和capacity一样大;compact()是把缓冲区中已经读过的数据全部清除掉,即模式从读到写把position不变,limit置成最大的置.

rewind()方法

​ Buffer.rewind()将position设回0，所以你可以重读Buffer中的所有数据。limit保持不变，仍然表示能从Buffer中读取多少个元素（byte、char等）。

mark()与reset()方法

​ 通过调用Buffer.mark()方法，可以标记Buffer中的一个特定position。之后可以通过调用Buffer.reset()方法恢复到这个position。例如：

buffer.mark();
//call buffer.get() a couple of times, e.g. during parsing.
buffer.reset();  //set position back to mark.

equals()与compareTo()方法

可以使用equals()和compareTo()方法两个Buffer。

equals()

当满足下列条件时，表示两个Buffer相等：

1. 有相同的类型（byte、char、int等）。
2. Buffer中剩余的byte、char等的个数相等。
3. Buffer中所有剩余的byte、char等都相同。

如你所见，equals只是比较Buffer的一部分，不是每一个在它里面的元素都比较。实际上，它只比较Buffer中的剩余元素。

compareTo()方法

compareTo()方法比较两个Buffer的剩余元素(byte、char等)， 如果满足下列条件，则认为一个Buffer“小于”另一个Buffer：

1. 第一个不相等的元素小于另一个Buffer中对应的元素 。
2. 所有元素都相等，但第一个Buffer比另一个先耗尽(第一个Buffer的元素个数比另一个少)。

Scatter/Gather

​ 个人理解:Scatter/Gather是指Java NIO从Channle读取数据到多个Buffer和从多个Buffer中写入数据到Channel的操作.

• Scatter(分散):是指从Channel读取数据,即读操作将从Channel读取的数据写入到多个Buffer,因此，Channel将从Channel中读取的数据“分散（scatter）”到多个Buffer中。
• Gather:写入Channel是指在写操作时将多个buffer的数据写入同一个Channel，因此，Channel 将多个Buffer中的数据“聚集（gather）”后发送到Channel。

​ scatter / gather经常用于需要将传输的数据分开处理的场合，例如传输一个由消息头和消息体组成的消息，你可能会将消息体和消息头分散到不同的buffer中，这样你可以方便的处理消息头和消息体

Scatter reads

Scattering Reads是指数据从一个channel读取到多个buffer中。如下图描述：

ByteBuffer header = ByteBuffer.allocate(128);
ByteBuffer body   = ByteBuffer.allocate(1024);
ByteBuffer[] bufferArray = { header, body };
channel.read(bufferArray);

​ 注意buffer首先被插入到数组，然后再将数组作为channel.read() 的输入参数。read()方法按照buffer在数组中的顺序将从channel中读取的数据写入到buffer，当一个buffer被写满后，channel紧接着向另一个buffer中写。

​ Scattering Reads在移动下一个buffer前，必须填满当前的buffer，这也意味着它不适用于动态消息(注：消息大小不固定)。换句话说，如果存在消息头和消息体，消息头必须完成填充(例如 128byte)，Scattering Reads才能正常工作。

gather writes

demo示例:

ByteBuffer header = ByteBuffer.allocate(128);
ByteBuffer body   = ByteBuffer.allocate(1024);
ByteBuffer[] bufferArray = { header, body };
channel.write(bufferArray);

​ 个人理解:首先Buffer数组是write()方法得参数mwrite()方法会按照buffer数组中元素的顺序,一次的将数据写到channel中,需要注意的是每个buffer中的有效数据是position和limit之间,这就为我们可以动态从buffer写数据到channel奠定了基础,我们可以灵活的控制position和limit的位置,从而控制每个buffer写入到channel数据的大小.与Scattering Reads相比,Gathering Writes能较好的动态处理数据.

Channnel之间的数据传输

​ 除了通道与buffer之间的数据传输,当然通道与通道之间也能数据传输.

​ 回顾通道与buffer之间的数据传输,这里面涉及到Scattering Reads即从通道分散数据到多个buffer中,条件是需要一个buffer数组,还有多个buffer缓冲区,将缓冲区按照顺序放到缓冲数组中,然后按照顺序从channel通道中读数据(分散)到buffer中,需要注意的按照顺序从通道中读数据到buffer数组中,数组元素按照顺序,一个被填充后再按顺序填充另一个,这就限制了我们不能动态的从通道中读数据到buffer中;Gathering Writes从不同的buffer中聚集数据到通道中,条件依然是多个缓冲区,将多个缓冲区加入到buffer数组,然后按照顺序去聚集buffer数组中的多个buffer数据,每个buffer有效数据是position和limit之间的数据,这样就可以动态的聚集每个buffer的数据.

​ 在Java NIO中，如果两个通道中有一个是FileChannel，那你可以直接将数据从一个channel（译者注：channel中文常译作通道）传输到另外一个channel。

​ demo示例:

try {
            RandomAccessFile fromFile = new RandomAccessFile("MPPRLogCodeCountService.properties", "rw");
            FileChannel fromFileChannel = fromFile.getChannel();
            RandomAccessFile toFile = new RandomAccessFile("servicesetting.properties", "rw");
            FileChannel toFileChannel = toFile.getChannel();
            long position = 0;
            long count = fromFileChannel.size();
            toFileChannel.transferFrom(fromFileChannel, position, count);
            ByteBuffer byteBuffer = ByteBuffer.allocate(1024);
            int read = toFileChannel.read(byteBuffer);
            while (read != -1){
                byteBuffer.flip();  //切换为读的模式
                while (byteBuffer.hasRemaining()) {
                    System.out.print((char)byteBuffer.get());
                }
                byteBuffer.compact();
                read = toFileChannel.read(byteBuffer);
            }

        } catch (Exception e) {
            e.printStackTrace();
        }

总结回顾:

​ 从缓冲区读写数据一般分为四步:

• 读取数据写入到Buffer
• 切换读写模式到从Buffer中读取数据flip()
• 从Buffer中读取数据,进行自己的业务操作
• 调用clear()方法或者compact()方法

​ 方法的输入参数position表示从position处开始向目标文件写入数据，count表示最多传输的字节数。如果源通道的剩余空间小于 count 个字节，则所传输的字节数要小于请求的字节数。此外要注意，在SoketChannel的实现中，SocketChannel只会传输此刻准备好的数据（可能不足count字节）。因此，SocketChannel可能不会将请求的所有数据(count个字节)全部传输到FileChannel中。

注意::

​ 把fromChannel管道中的数据输送到toFileChannel中,类似于压栈,再读取数据的时候,先读取的是fromFileChannel中的数据.

​ transferTo()方法将数据从FileChannel传输到其他的channel中。下面是一个简单的例子：

 try {
            RandomAccessFile fromFile = new RandomAccessFile("MPPRLogCodeCountService.properties", "rw");
            FileChannel fromFileChannel = fromFile.getChannel();
            RandomAccessFile toFile = new RandomAccessFile("servicesetting.properties", "rw");
            FileChannel toFileChannel = toFile.getChannel();
            long position = 0;
            long count = fromFileChannel.size();
//            toFileChannel.transferFrom(fromFileChannel, position, count);
            fromFileChannel.transferTo(0, count, toFileChannel);
            ByteBuffer byteBuffer = ByteBuffer.allocate(1024);
            int read = toFileChannel.read(byteBuffer);
            while (read != -1){
                byteBuffer.flip();  //切换为读的模式
                while (byteBuffer.hasRemaining()) {
                    System.out.print((char)byteBuffer.get());
                }
                byteBuffer.compact();
                read = toFileChannel.read(byteBuffer);
            }

        } catch (Exception e) {
            e.printStackTrace();
        }

​ 是不是发现这个例子和前面那个例子特别相似？除了调用方法的FileChannel对象不一样外，其他的都一样。上面所说的关于SocketChannel的问题在transferTo()方法中同样存在。SocketChannel会一直传输数据直到目标buffer被填满。

Selector

​ Selector（选择器）是Java NIO中能够检测一到多个NIO通道，并能够知晓通道是否为诸如读写事件做好准备的组件。这样，一个单独的线程可以管理多个channel，从而管理多个网络连接。

为什么使用Selector?

​ 个人理解:仅用单一线程来处理多个Channels的好处是:只需要更少的线程来处理通道.事实上,可以只用一个线程处理所有的通道.对于操作系统来说,线程之间上下文的切换开销是很大的,就是说时间片的竞争之间消耗的资源是很大的,而且每个线程都要占用系统的一些资源(如内存,时间片等).因此,使用的线程越少越好.但是,需要记住,现代的操作系统和cpu在多任务方面表现的越来越好,所以多线程的开销随着时间的推移,变得越来越小.实际上,如果cpu有多个内核,不使用多线程可能是在浪费资源.

Selector的创建

通过调用Selector.open()方法创建一个Selector，如下：

Selector selector = Selector.open();

向Selector注册通道

​ 为了将Channel和Selector配合使用，必须将channel注册到selector上。通过SelectableChannel.register()方法来实现，如下：

Selector selector = Selector.open();
SocketChannel socketChannel = SocketChannel.open();
socketChannel.configureBlocking(false);
socketChannel.register(selector, SelectionKey.OP_ACCEPT);

​ 与Selector一起使用时，Channel必须处于非阻塞模式下。这意味着不能将FileChannel与Selector一起使用，因为FileChannel不能切换到非阻塞模式。而套接字通道都可以。注意register()方法的第二个参数。这是一个“interest集合”，意思是在通过Selector监听Channel时对什么事件感兴趣。可以监听四种不同类型的事件,具体的在SelectionKey.class中：

• Connect
• Accept
• Read
• Write

​ 通道触发了一个事件意思是该事件已经就绪。所以，某个channel成功连接到另一个服务器称为“连接就绪”。一个server socket channel准备好接收新进入的连接称为“接收就绪”。一个有数据可读的通道可以说是“读就绪”。等待写数据的通道可以说是“写就绪”。

这四种事件用SelectionKey的四个常量来表示：

• SelectionKey.OP_CONNECT
• SelectionKey.OP_ACCEPT
• SelectionKey.OP_READ
• SelectionKey.OP_WRITE

​ 如果你对不止一种事件感兴趣，那么可以用“位或”操作符将常量连接起来，如下：

int interestSet = SelectionKey.OP_READ | SelectionKey.OP_WRITE;

在下面还会继续提到interest集合。

SelectionKey

interest集合

​ 就像向Selector注册通道一节中所描述的，interest集合是你所选择的感兴趣的事件集合。可以通过SelectionKey读写interest集合。用“位与”操作interest 集合和给定的SelectionKey常量，可以确定某个确定的事件是否在interest 集合中。

ready集合

​ ready 集合是通道已经准备就绪的操作的集合。在一次选择(Selection)之后，你会首先访问这个ready set。Selection将在下一小节进行解释。可以这样访问ready集合：

int readySet = selectionKey.readyOps();

​ 可以用像检测interest集合那样的方法，来检测channel中什么事件或操作已经就绪。但是，也可以使用以下四个方法，它们都会返回一个布尔类型：

可以用像检测interest集合那样的方法，来检测channel中什么事件或操作已经就绪。但是，也可以使用以下四个方法，它们都会返回一个布尔类型：

selectionKey.isAcceptable();
selectionKey.isConnectable();
selectionKey.isReadable()
selectionKey.isWritable();

Channel + Selector

从SelectionKey访问Channel和Selector很简单。如下：

Channel channel = selectionKey.channel();
Selector selector = selectionKey.selector();

附加的对象

​ 可以将一个对象或者更多信息附着到SelectionKey上，这样就能方便的识别某个给定的通道。例如，可以附加 与通道一起使用的Buffer，或是包含聚集数据的某个对象。使用方法如下：

selectionKey.attach(theObject);
Object attachedObj = selectionKey.attachment();

还可以在用register()方法向Selector注册Channel的时候附加对象。如：

SelectionKey key = channel.register(selector, SelectionKey.OP_READ, theObject);

通过Selector选择通道

​ 一旦向Selector注册了一或多个通道，就可以调用几个重载的select()方法。这些方法返回你所感兴趣的事件（如连接、接受、读或写）已经准备就绪的那些通道。换句话说，如果你对“读就绪”的通道感兴趣，select()方法会返回读事件已经就绪的那些通道。

下面是select()方法：

• int select()
• int select(long timeout)
• int selectNow()

select()阻塞到至少有一个通道在你注册的事件上就绪了。

select(long timeout)和select()一样，除了最长会阻塞timeout毫秒(参数)。

selectNow()不会阻塞，不管什么通道就绪都立刻返回（译者注：此方法执行非阻塞的选择操作。如果自从前一次选择操作后，没有通道变成可选择的，则此方法直接返回零。）。

select()方法返回的int值表示有多少通道已经就绪。亦即，自上次调用select()方法后有多少通道变成就绪状态。如果调用select()方法，因为有一个通道变成就绪状态，返回了1，若再次调用select()方法，如果另一个通道就绪了，它会再次返回1。如果对第一个就绪的channel没有做任何操作，现在就有两个就绪的通道，但在每次select()方法调用之间，只有一个通道就绪了。

selectedKeys()

一旦调用了select()方法，并且返回值表明有一个或更多个通道就绪了，然后可以通过调用selector的selectedKeys()方法，访问“已选择键集（selected key set）”中的就绪通道。如下所示：

Set selectedKeys = selector.selectedKeys();

​ 当像Selector注册Channel时，Channel.register()方法会返回一个SelectionKey 对象。这个对象代表了注册到该Selector的通道。可以通过SelectionKey的selectedKeySet()方法访问这些对象。

可以遍历这个已选择的键集合来访问就绪的通道。如下：

    Set selectedKeys = selector.selectedKeys();
    Iterator<SelectionKey> keyIterator = selectedKeys.iterator();
    while(keyIterator.hasNext()) {
        SelectionKey key = keyIterator.next();
        if(key.isAcceptable()) {
            // a connection was accepted by a ServerSocketChannel.
        } else if (key.isConnectable()) {
            // a connection was established with a remote server.
        } else if (key.isReadable()) {
            // a channel is ready for reading
        } else if (key.isWritable()) {
            // a channel is ready for writing
        }
        keyIterator.remove();
    }

​ 这个循环遍历已选择键集中的每个键，并检测各个键所对应的通道的就绪事件。注意每次迭代末尾的keyIterator.remove()调用。Selector不会自己从已选择键集中移除SelectionKey实例。必须在处理完通道时自己移除。下次该通道变成就绪时，Selector会再次将其放入已选择键集中。SelectionKey.channel()方法返回的通道需要转型成你要处理的类型，如ServerSocketChannel或SocketChannel等。

wakeUp()

​ 某个线程调用select()方法后阻塞了，即使没有通道已经就绪，也有办法让其从select()方法返回。只要让其它线程在第一个线程调用select()方法的那个对象上调用Selector.wakeup()方法即可。阻塞在select()方法上的线程会立马返回。如果有其它线程调用了wakeup()方法，但当前没有线程阻塞在select()方法上，下个调用select()方法的线程会立即“醒来（wake up）”。

close()

​ 用完Selector后调用其close()方法会关闭该Selector，且使注册到该Selector上的所有SelectionKey实例无效。通道本身并不会关闭。

完整的示例

​ 这里有一个完整的示例，打开一个Selector，注册一个通道注册到这个Selector上(通道的初始化过程略去),然后持续监控这个Selector的四种事件（接受，连接，读，写）是否就绪。

 Selector selector = Selector.open();
            SocketChannel channel = SocketChannel.open();
            channel.configureBlocking(false);
            channel.register(selector, SelectionKey.OP_READ);
            while (true) {
                int readyChannels = selector.select();
                if (readyChannels == 0) continue;
                Set selectedKeys = selector.selectedKeys();
                Iterator<SelectionKey> keyIterator = selectedKeys.iterator();
                while (keyIterator.hasNext()) {
                    SelectionKey selectionKey = keyIterator.next();
                    if (selectionKey.isAcceptable()) {
                        // a connection was accepted by a ServerSocketChannel.
                    } else if (selectionKey.isConnectable()) {
                        // a connection was established with a remote server.
                    } else if (selectionKey.isReadable()) {
                        // a channel is ready for reading
                    } else if (selectionKey.isWritable()) {
                        // a channel is ready for writing
                    }
                    keyIterator.remove();
                }
            }