1 I/O模型基本演进之路
1.1 I/O模型基本说明
IO模型:就是用什么样的通道或者说是通信模式和架构进行数据的传输和接收,很大程度上决定了程序通信的性能
java共支持3种网络编程的IO模型:
- BIO
- NIO
- AIO
实际通信需求下,要根据不同的业务场景和性能需求决定选择不同的I/O模型
1.2 I/O模型
java BIO
- 同步并阻塞(传统阻塞模型),服务器实现模式为一个连接一个线程,即客户端有连接请求时服务器端就需要启动一个线程进行处理,如果这个连接不做任何事情会造成不必要的线程开销
java NIO
- 同步非阻塞,服务器实现模式为一个线程处理多个请求(连接),即客户端发送的连接请求都会注册到多路复用器上,多路复用器轮询到连接有I/O请求就进行处理
java AIO
- 异步非阻塞,服务器实现模式为一个有效请求一个线程,客户端的I/O请求都是由OS先完成了再通知服务器应用去启动线程进行处理,一般适用于连接数较多且连接时间长
1.3 BIO、NIO、AIO
- BIO方式适用于连接数比较少且固定的架构,这种方式对服务器资源要求比较高,并发局限于应用中,(jdk1.4之前的唯一选择)
- NIO方式适用于连接数目多且连接比较短(轻操作)的架构,比如聊天服务器,弹屏系统,服务器间通讯等。(jdk1.4开始)
- AIO方式适用于连接数目比较多且连接时间比较长的架构,比如相册服务器,充分调用OS参与并发操作。(jdk7开始)
2 BIO深入解析
2.1java BIO基本介绍
- Java BIO 就是传统的 java io 编程,其相关的类和接 口在 java.io
- BIO(blocking I/O) : 同步阻塞,服务器实现模式为一个连 接一个线程,即客户端有连接请求时服务器端就需要启 动一个线程进行处理,如果这个连接不做任何事情会造成 不必要的线程开销,可以通过线程池机制改善(实现多 个客户连接服务器).
2.2 java BIO 工作机制
对 BIO 编程流程的梳理
- 服务器端启动一个 ServerSocket,注册端口,调用accpet方 法监听客户端的Socket连接。
- 客户端启动 Socket对服务器进行通信,默认情况下服务器端 需要对每个客户 建立一个线程与之通讯
3 NIO深入理解
3.1 Java NIO 基本介绍
- java NIO(New IO)也有人称之为 java non-blocking IO是 从Java (1.4版本开始引入的一个新的IO API,可以替代标准 的Java IO API)
- NIO与原来的IO有同样的作用和目的,但是使用的方式完全不同,NIO支持面向缓冲区的、基于通道的IO操作。NIO将以更加高效的方式进行文件的读 写操作。
- NIO可以理解为非阻塞IO,传统的IO的 read 和 write 只能阻塞执行,线程在读写IO期间不能干其他事情,比如 调用socket.read()时,如果服务器一直没有数据传输 过来,线程就一直阻塞,而NIO中可以配置socket为非阻塞模式。
- NIO 相关类都被放在 java.nio 包及子包下,并且对 原 java.io 包中的很多类进行改写。
- NIO 有三大核心部分:
- Channerl(通道)
- Buffer(缓冲区)
- Selector(选择器)
- Java NIO 的非阻塞模式,使一个线程从某通道发送请求或者读取数据,但是它仅能得到目前可用的数据,如果目前没有数据可用时,就什么都不会获取,而不是保持线程阻塞,所以直至数据变的可以读取之前,该线程可以继续做其他的事情。 非阻塞写也是如此,一个线程
请求写入一些数据到某通道,但不需要等待它完全写
入,这个线程同时可以去做别的事情。 - 通俗理解:NIO 是可以做到用一个线程来处理多个操作的。假设有 1000 个请求过来,根据实际情况,可以分 配20 或者 80个线程来处理。不像之前的阻塞 IO 那 样,非得分配 1000 个。
3.2 NIO 和 BIO的比较
- BIO 以流的方式处理数据,而 NIO 以块的方式处理数据
,块 I/O 的效率比流 I/O 高很多 - BIO 是阻塞的,NIO 则是非阻塞的
- BIO 基于字节流和字符流进行操作,而 NIO 基于 Channel(通道)和Buffer(缓冲区)进行操作,数据总是从通道读取到缓冲区中,或者从缓冲区写入到通道中。Selector(选择器)用于监听多个通道的事件(比如:连接请求,数据到达等),因此使用单个线程就可以监听多个客户端通道
NIO | BIO |
---|---|
面向缓冲区(Buffer) | 面向流(Stream) |
非阻塞(Non Blocking IO) | 阻塞IO(Blocking IO) |
选择器(Selectors) |
3.3 NIO三大核心
NIO 有三大核心:Channel(通道)、Buffer(缓冲区),Selector(选择器)
Buffer(缓冲区)
缓冲区本质上是一块可以写入数据,然后可以从中读取数据的内存。这块内存被包装成NIO Buffer对象,并且提供了一组方法,用来方便的访问内存块。相比较直接对数组的操作,Buffer API 更加容易理解和操作
Channel(通道)
java NIO 的通道类似流,但是跟流又有些不同:既可以从通道中读取数据,又可以从写数据到通道。但流的读写通常是单项的。通道可以非阻塞读取和写入通入,通道可以支持读取或写入缓冲区,也支持异步读写
Selector(选择器)
Selector是 一个Java NIO组件,可以能够检查一个 或多个 NIO 通道,并确定哪些通道已经准备好进行读 取或写入。这样,一个单独的线程可以管理多个channel,从而管理多个网络连接,提高效率
- 每个channel都会对应一个Buffer
- 一个线程对应Selector,一个Selector对应多个channel(连接)
- 程序切换到哪个channel是由事件决定的
- Selector会根据不同的事件,在各个通道上切换
- Buffer就是一个内存块,底层是一个数组
- 数据的读取写入是通过Buffer完成的,BIO中要么是输入流,或者是输出流,不能双向,但是NIO 的Buffer是可以读也可以写。
- Java NIO系统的核心在于:通道(Channel)和缓存区(Buffer)。通道表示打开到IO设备(例如: 文件、套接字) 的连接。若需要使用NlO系统,需要获取用于连接IO设备的通道以及用于容纳数据 的缓冲区。然后操作缓 冲区,对数据进行处理。
- 简而言之,Channel负责传输,Buffer负责存取数据
3.4 NIO核心一:缓存区(Buffer)
缓存区(Buffer)
一个用于特定基本数据类型的容器。由Java.nio包定义的,所有缓冲区都是Buffer抽象类的子类.Java NIO中 的Buffer主要用于与NIO通道进行交互,数据是从通道读入缓冲区,从缓冲区写入通道中的
Buffer类及其子类
Buffer就像一个数组,可以保存多个相同类型的数据。根据数据类型不同,有以下Buffer常用子类:
- ByteBuffer
- CharBuffer
- ShortBuffer
- IntBuffer
- LongBuffer
- FloatBuffer
- DoubleBuffer 上述Buffer类 他们都采用相似的方法进行管理数据,只是各自管理的数据类型不同而已。都是通过如下 方法获取一个Buffer对象:
static XxxBuffer allocate(int capacity):创建一个容量为capacity的XxxBuffer对象
缓存区的基本属性
Buffer中的重要概念:
- 容量(capacity):作为一个内存块,Buffer具有一定的固定大小,也称为”容量”,缓冲区容量不能 为负,并且 创建后不能更改。
- 限制(limit):表示缓冲区中可以操作数据的大小(limit后数据不能进行读写)。缓冲区的限制不 能为负,并且不能大于其容量。写入模式,限制等于buffer的容量。读取模式下,limit等于写入 的数据量。
- 位置‘(position):下一个要读取或写入的数据的索引。缓’中区的位置不能为负,并且不能大于其限制
- 标记(mark)与重置(reset):标记是一个索弓l,通过Buffer中的mark()方法指定Buffer中一 个特定的 position,之后可以通过调用reset()方法恢复到这个position。
- 标记、位置、限制、容量遵守以T不变式:0<=mark<=position<=limit<=capacity
3.5 BIO核心二:通道(Channel)
通道Channel概述
通道(Channel):由java.nio.channels包定义的。Channel表示IO源与目标打开的连接。Channel类似 于传统的“流”。只不过Channel本身不能直接访问数据,Channel只能与Buffer进行交互。(载体)
1、NIO的通道类似于流,但有些区别如下
- 通道可以同时进行读写,而流只能读或者只能写
- 通道可以实现异步读写数据
- 通道可以从缓冲读数据,也可以写数据到缓冲
2、BlO中的stream是单向的,例如FilelnputStream对象只能进行读取数据的操作,而NIO中的通道 (Channel) 是双向的,可以读操作,也可以写操作。
3.6 NIO核心三:选择器(Selector)
选择器(Selector)概述
选择器(Selector)是SeIectabIeC hannIe对象的多路复用器,Selector可以同时监控多个 SelectableChannel 的IO状况,也就是说,利用Selector可使一个单独的线程管理多个Channel。 Selector是非阻塞IO的核心
- java的NIO,用非阻塞的IO方式。可以用一个线程,处理多个的客户端连接,就会使用到Selector (选择器)
- Selector能够检测多个注册的通道上篡若有事件发生(注意:多个Channel以事件的方式可以注册 到同一个 Selector),如果有事件发生,便获取事件然后针对每个事件进行相应的处理。这样就可 以只用一个单线程去管 理多个通道,也就是管理多个连接和请求。
- 只有在连接/通道真正有读写事件发生时,才会进行读写,就大大地减少了系统开销,并且不必为 每个连接都 创建一个线程,不用去维护多个线程 避免了多线程之间的上下文切换导致的开销
3.7 NIO非阻塞式网络通信原理分析
Selector示意图和特点说明
Selector可以实现:一个I/O线程可以并发处理N个客户端连接和读写操作,这从根本上解决了传统同步 阻塞I/O一连接一线程模型,架构的性能、弹性伸缩能力和可靠性都得到了极大的提升。
4 AIO
4.1 AIO 编程
- Java AIO(NIO.2):异步非阻塞,服务器实现模式为一个有效请求一个线程,客户端的I/O请求都是 由OS先完成了再通知服务器应用去启动线程进行处理。
- AIO是异步非阻塞,基于NIO,可以称之为NIO2.0
与NIO不同,当进行读写操作时,只须直接调用API的read或write方法即可,这两种方法均为异步的, 对于读操作而言,当有流可读时,操作系统会将可读的流传入read方法的缓冲区,对于写操作而言,当 操作系统将 write方法传递的流写入完毕时,操作系统主动通知应用程序 。
即可以理解为,read/write方法都是异步的,完成后会主动调用回调函数。在JDK1.7中,这部分内容被 称作 NIO.2,主要在java.nio.channel包下增加了下面四个异步通道:
- AsynchronousSocketChannel
- AsynchronousServerSocketChannel
- AsynchronousFileChannel
- AsynchronousDatagramChannel
5 总结
BIO、NIO、AIO:
- Java BlO:同步并阻塞,服务器实现模式为一个连接一个线程,即客户端有连接请求时服务器端就 需要启动 一个线程进行处理,如果这个连接不做任何事情会造成不必要的线程开销,当然可以通过 线程池机制改善。
- Java NIO:同步非阻塞,服务器实现模式为一个请求一个线程,即客户端发送的连接请求都会注册 到多路复用器上,多路复用器轮询到连接有I/O请求时才启动一个线程进行处理。
- Java AIO(NIO 2.0):异步非阻塞,服务器实现模式为一个有效请求一个线程,客户端的I/O请求都是 由OS先完成了再通知服务器应用去启动线程进行处理。