1、什么是I/O
-
I/O(Input/Output),即输入/输出,根据冯.诺依曼结构来看,计算机结构可分为五部分:运算器、控制器、存储器、输入设备、输出设备。
-
从计算机结构的视角来看的话, I/O 描述了计算机系统与外部设备之间通信的过程。
-
从应用程序的角度来解读一下 I/O,为了保证操作系统的稳定性和安全性,一个进程的地址空间划分为 用户空间(User space) 和 内核空间(Kernel space ) 。平常运行的应用程序都是运行在用户空间,只有内核空间才能进行系统态级别的资源有关的操作,比如文件管理、进程通信、内存管理等等。也就是说,我们想要进行 IO 操作,一定是要依赖内核空间的能力。
-
用户空间的程序不能直接访问内核空间。当想要执行 IO 操作时,由于没有执行这些操作的权限,只能发起系统调用,请求操作系统帮忙完成。因此,用户进程想要执行 IO 操作的话,必须通过 系统调用 来间接访问内核空间
-
从应用程序的视角来看的话,我们的应用程序对操作系统的内核发起 IO 调用(系统调用),操作系统负责的内核执行具体的 IO 操作,即应用程序实际上只是发起了 IO 操作的调用而已,具体 IO 的执行是由操作系统的内核来完成的。
-
当应用程序发起 I/O 调用后,会经历两个步骤,即内核等待 I/O 设备准备好数据和内核将数据从内核空间拷贝到用户空间。
-
UNIX 系统下, IO 模型一共有 5 种: 同步阻塞 I/O、同步非阻塞 I/O、I/O 多路复用、信号驱动 I/O 和异步 I/O。
2、常见 IO 模型
2.1、BIO
BIO(Blocking I/O),即同步阻塞IO模型,在BIO中,应用程序发起read调用后,会一直阻塞,直到内核把数据拷贝到用户空间。
在客户端连接数量不高的情况下,BIO是可行的,但面对百万级客户端连接时,传统的BIO模型是不可用的,故而需要一种更为高效的IO处理模型来应对更高的并发量。
2.2、NIO(NIO-blocking/New IO)
Java中的NIO自Java1.4引入,对应的是java.nio包,提供了Channel,Selector、Buffer等抽象,可看作是I/O多路复用模型(注意和同步非阻塞的区别)
- 同步非阻塞IO模型
- 在同步非阻塞IO模型中,应用程序会一直发起read调用,等待数据从内核空间拷贝到用户空间,期间的线程依然是阻塞的,直到在内核把数据拷贝到用户空间
- 相比于同步阻塞IO模型(BIO),同步非阻塞IO有了很大进步,通过轮询操作,避免了一直阻塞,但还是存在一定的问题:应用程序不断地进行IO系统调用,轮询数据是否已经准备就绪,该过程非常耗费CPU资源
2.3、IO多路复用
而IO多路复用就可以解决同步非阻塞模型的问题。
- 在IO多路复用模型中,线程先发起select调用,询问内核数据是否准备就绪,等内核的数据就绪后,用户线程再发起read调用,read调用的过程也还是阻塞的(数据从内核空间拷贝到用户空间的过程),通过减少无效的系统调用,从而减少对CPU资源的消耗
- 目前支持IO多路复用的系统调用,有select、poll、epoll等
- select调用:内核提供的系统调用,支持一次查询多个系统调用的可用状态,当任意一个结果状态可用时就会返回,用户进程会再发起一次系统调用进行数据读取,即NIO中N次的系统调用,借助Select,只需要发起一次系统调用
- poll调用:与select相比,poll主要解决了在连接数量上的限制
- epoll调用:为减少内核重复无效的循环遍历,引入了基于事件驱动来实现的机制,新增了两次系统调用,其中epoll_create建立与内核的连接,epoll_ctl注册事件,epoll_wait阻塞用户进程,等待IO事件,大大优化了IO的执行效率
- Java中的NIO通过选择器(多路复用器),即可实现一个线程管理多个客户端连接
2.4、AIO(Asynchronous I/O)
AIO,即NIO 2,是Java7中引入的关于NIO的加强版,属于异步IO模型
异步IO是基于事件和回调机制来实现的,即应用操作之后立即返回结果,不会阻塞,当后台处理完成后,操作系统会通知相应的线程进行后续的操作
- 异步IO真正实现了IO全流程的非阻塞。用户程序发出系统调用后立即返回,内核等待数据准备完成,然后将数据拷贝到用户进程缓冲区,然后发送信号告诉用户进程IO操作执行完毕(与SIGIO相比,一个是发送信号告诉用户进程数据准备完毕,一个是IO执行完毕)。
BIO、NIO、AIO是Java中的IO模型,其图解如下: