网络IO模型

1 介绍

一提到网络IO，甚至一些网络框架，就无法避免遇到阻塞、非阻塞、同步、异步的概念，要理解这些概念，先要清楚网络IO是什么，以及网络IO如何工作。

• 网络IO本质上也是IO的一种，就是数据的输入输出，可以理解为文件fd,这里也可以指socket fd。

• 网络IO的处理流程，涉及到操作系统的用户空间与内核空间，在这两个阶段中发生的不同情况，从而衍生出多种网络IO模型。

• 阻塞/非阻塞 从内核处理系统调用是否挂起用户线程的角度划分。

• 同步/异步 内核数据就绪后是否需要用户线程亲自调用 read 来搬运数据（将数据从内核空间拷贝到用户空间） 的角度划分。

2 阻塞 IO（blocking IO）

在linux 中，默认情况下所有的socket 都是blocking，如下是一个read操作

当用户线程调用read 这个系统调用后，kernel 就开始了IO 的第一个阶段：准备数据。对于网络 IO 来说，很多时候数据在一开始还没有到达（比如，还没有收到一个完整的数据包），这个时候kernel 就要等待足够的数据到来。而在用户进程这边，整个进程会被阻塞。当kernel 一直等到数据准备好了，它就会将数据从kernel 中拷贝到用户内存，然后kernel 返回结果，用户进程才解除block 的状态，重新运行起来。 所以，blocking IO 的特点就是在IO 执行的两个阶段（等待数据和拷贝数据两个阶段）都被block 了。

3 非阻塞 IO（non-blocking IO）

当用户线程发出read 操作时，如果kernel 中的数据还没有准备好，它并不会block 用户进程，而是立刻返回一个error。从用户进程角度讲，它发起一个read 操作后，并不需要等待，而是马上就得到了一个结果。用户进程判断结果是一个error 时，它就知道数据还没有准备好，于是它可以再次发送read 操作。一旦kernel 中的数据准备好了，并且又再次收到了用户进程的system call，那么它马上就将数据拷贝到了用户内存并返回，所以，在非阻塞式IO 中，用户进程其实是需要不断的主动询问kernel 数据准备好了没有。

上述模型需要循环调用read 将大幅度推高CPU 占用率，所以实际应用场景中没有这种用法，而read在这里更多是起到检测“操作是否完成”的作用，对于检测就绪的操作，系统有提供更为高效的系统函数（select/poll/epoll）

4 多路复用IO （IO multiplexing）

IO多路复用使用select/epoll 不断的轮询所负责的所有socket，当某个socket 有数据到达了，就通知用户进程，从图可以看出IO多路复用每次操作需要两次系统调用(select 和read)，而blocking IO 只调用了一个系统调用(read)，在处理少量客户端连接的性能还不如阻塞IO+多线程，IO多路复用最大的优势是用户可以在一个线程内同时处理多个socket 的IO 请求，主要应对高并发、大量客户端连接的场景。

5 异步 IO（Asynchronous I/O）

介绍到这里，上述的几种IO其实都属于同步IO的范畴，及应用程序系统调用，内核处理消息就绪后应用程序需要同步处理数据。而在Linux 内核从 2.6 开始引入异步IO操作，如 aio_read, aio_write。

用户进程发起read 操作之后，立刻就可以开始去做其它的事。而另一方面，从kernel 的角度，当它受到一个asynchronous read 之后，首先它会立刻返回，所以不会对用户进程产生任何block。然后，kernel 会等待数据准备完成，然后将数据拷贝到用户内存，当这一切都完成之后，kernel 会给用户进程发送一个signal，告诉它read 操作完成了。