同步、异步和阻塞、非阻塞

 

一、三种IO

BIO(同步阻塞式IO)：同步阻塞式io，服务器实现模式为一个连接一个线程，即客户端有连接请求时服务器就需要启动一个线程进行处理，如果这个连接不做任何事情会造成不必要的线程开销，可以通过线程池的机制改善。

NIO(同步非阻塞式IO)：同步非阻塞式io，服务器实现模式为一个请求一个线程，即客户端发送的连接请求都会注册到多路复用器上，多路复用器轮询到连接有I/O请求时才启动一个线程去处理

AIO(异步非阻塞式IO)：异步非阻塞式io，服务器实现模式为一个有效请求一个线程，客户端的I/O请求都是由OS先完成了在通知服务器去启动线程进行处理。

 

二、五种模型

一般来说，程序进行输入操作有两步：

等待有数据可读

将数据从系统内核拷贝到程序的数据区

对于socket编程来说：

第一步：一般来说是等待数据从网络上传到本地。当数据包到达的时候，数据将会从网络层拷贝到内核的缓存中；

第二步：是从内核中把数据拷贝到程序的数据区

 

1.阻塞

在linux中默认情况下所有的socket都是阻塞的，当用户进程调用了recvfrom这个系统调用，内核就开始了IO的第一个阶段：准备数据。对networkIO来说，很多时候数据在一开始还没有到达(比如，还没有收到一个完整的UDP包)，这个时候内核就要等待足够的数据到来。而在用户进程这边，整个进程会被阻塞。当内核一个等到数据准备好了，它就会将数据从内核中拷贝到用户内存，然后内核返回结果，用户进程才接触block的状态，重新运行起来。所以，blocking IO特点就是在IO执行的两个阶段都被block了。

 

2.非阻塞

当一个应用程序使用了非阻塞模式的套接字，它需要使用一个循环来不停的测试是否一个文件描述符有数据可读。应用程序不停polling内核来检查是否I/O操作已经就绪。这将是一个极浪费CPU资源的操作。这种模式使用不是很普遍。

linux下，可以通过设置socket使其变为非阻塞。当用户进程发出read操作时，如果内核中的数据还没有准备好，那么它并不会阻塞用户进程，而是立刻返回一个error。从用户进程角度来讲，它发起一个read操作后，并不需要等待，而是马上就的到了一个结果。用户进程判断结果是一个error时，它就知道数据还没有准备好，于是它可以再次发送read操作。一旦内核中的数据准备好了，并且又再次收到了用户进程的系统调用，那么它马上就将数据拷贝到了用户内存(这段时间用户进程是阻塞的)，然后返回。所以用户进程其实是需要不断的主动轮询内核数据好了没有。对管道的操作，最好使用非阻塞方式。

 

3.多路复用

IO多路复用这个词可能有点陌生，但是如果我说select、epoll，大概就能明白了。有些地方也称这种IO方式为event driver IO。我们都知道，select/epoll的好处就在于单个应用进程就可以同时处理多个网络连接的IO。它的基本原理就是select/epoll这个function会不断的轮询所负责的所有socket，当某个socket有数据到达了，就通知用户进程。

当用户进程调用了select，那么整个进程会被block，而同时，内核会“监视”所有select负责的socket，当任何一个socket中的数据准备好了，select就会返回。这个时候用户进程再调用read操作，将数据从kernel拷贝到用户进程。

这个图和阻塞IO其实没什么太到的不同，事实上，还更差一些。因为这里需要使用两个系统调用select和recvfrom，而阻塞IO只调用了一个系统调用recvfrom。但是，用select的优势在于它可以同时处理多个connection。如果在连接数不是很大的情况下，使用select/epoll的web server不一定比使用多线程+blocking IO的性能要好。select/epoll的优势并不是对于单个连接能处理的更快，而是在于能处理更多的连接。

在多路复用中，实际中，对于每一个socket，一般都设置成非阻塞，但是，如上图所示，整个用户的进程其实一直被阻塞，只不过进程是被select这个函数阻塞，而不是被socket IO给阻塞。

多路复用技术一般在下面这些情况中被使用：

(1)当一个客户端需要同时处理多个文件描述符的输入输出操作的时候(一般来说是标准的输入输出和网络套接字 )

(2)当程序需要同时进行多个套接字操作的时候

(3)如果一个TCP服务器程序同时处理正在侦听网络连接的套接字和已经连接好的套接字

(4)如果一个服务器程序同时使用TCP和UDP协议

(5)如果一个服务器同时使用多种服务并且每种服务可能使用不同的协议

 

4.信号驱动

5.异步

用户进程发起read操作之后，立刻就可以开始去做其它的事。而另一方面，从内核的角度，当它收到一个asynchronous read之后，首先它会立刻返回，所以不会对用户进程产生任何block。然后，内核会等数据准备完成，然后将数据拷贝到用户内存，当这一切都完成之后，内核会给用户进程发送一个signal，告诉它read操作完成了。

异步IO和信号驱动IO的区别：

(1)信号驱动IO模式下，由内核通知我们何时可以启动一个I/O操作。

(2)异步IO模式下，有内核通知我们I/O何时完成

 

6.同步与异步的区别

两者的区别就在于同步IO做“IO操作”的时候会将process阻塞。

按照这个定义，之前所述的阻塞IO，非阻塞IO，IO多路复用、信号驱动都属于同步IO。有人可能会说，非阻塞IO并没有被block啊。这里有个非常“狡猾”的地方，定义中所指的“IO操作”是指真实的IO操作，就是例子中的recvfrom这个system call。非阻塞IO在执行recvfrom这个system call的时候，如果内核的数据没有准备好，这时候不会block进程。但是，当内核中数据准备好的时候，recvfrom会将数据从内核拷贝到用户内存中，这个时候进程被block，在这段时间内，进程是被block的。而异步IO则不一样，当进程发起IO操作之后，就直接返回再也不理睬了，直到内核发送一个信号，告诉进程说IO完成。在整个过程中，进程完全没有被block。

经过上面的介绍，会发现非阻塞IO和异步IO的区别还是明显的。在非阻塞IO中，虽然进程大部分时间都不会被block，但是它仍然要求进程主动的check，并且当数据准备完成以后，也需要进程主动的再次调用recvfrom来将数据拷贝到用户内存。而异步IO则完全不同，它就像是用户进程将整个IO操作交给了他人(内核)完成，然后他人做完后发信号通知。在此期间，用户进程不需要去检查IO操作的状态，也不需要主动的去拷贝数据。

有的地方说IO多路复用、信号驱动两种IO模式属于异步IO，原因是IO多路复用进程是被select这个函数block，而不是被socket IO给block，但是仔细看，IO多路复用、信号驱动在执行IO操作的时候(定义中所指“IO操作”是指真实的IO操作，就是例子中的recvfrom这个system call系统调用)请求的时候，都是被阻塞的，因此IO多路复用、信号驱动属于同步IO。