Netty系列主要参考资料:
- 《Netty权威指南》
- Netty官网文档:https://netty.io/wiki/user-guide-for-4.x.html
- Netty官网项目:https://github.com/netty/netty
一、 I/O模型概述
在Linux系统内核中,所有的外部设备都被看成文件进行操作,对一个文件的读写操作会调用系统内核提供的命令,返回一个文件描述符的fd(file discriptor),而对一个socket的读写也会有相应的操作符,成为socketfd,描述符其实就是一个数字,指向内核中的一个结构体(文件路径,数据区等属性)。
根据Unix网络编程对I/O模型的分类,Unix提供了5种I/O模型,分别如下:
- 阻塞I/O模型
- 非阻塞I/O模型
- I/O复用模型
- 信号驱动I/O模型
- 异步I/O
二、各种I/O模型详解
(一)阻塞I/O模型
最常用的I/O模型,默认情况下的文件操作都是阻塞的。以套接字为例来说:在进程空间中调用recvfrom,其系统调用会直到数据包达到并且被复制到应用程序的缓冲区或者是发生错误时才返回,在此期间会一直等待。进程从调用recvfrom开始到它返回的整段时间内都是被阻塞的,因此被称为阻塞I/O,其模型如下:
(二)非阻塞I/O模型
recvfrom从应用层到内核的时候,如果该缓冲区没有数据的话,就直接返回一个EWOULDBLOCK错误,一般针对非阻塞I/O模型进行轮询,检查内核是不是有数据到来。如图:
(三)I/O复用模型
Linux提供select/poll,进程通过将一个或者多个fd传给select或者是poll系统调用。阻塞在select操作上,这样select/poll可以帮助我们侦测多个fd数量有限,因此它的使用受到了限制。Linux还提供了epoll系统调用,epoll基于事件驱动方式代替轮询,因此效率更高。当有fd就绪时,就调用回调函数rollback,如图:
(四)信号量驱动I/O模型
首先开启套接口信号驱动I/O模型,并通过系统调用sigaction执行一个信号处理函数(此系统调用立即返回,进程继续工作,非阻塞的)。当数据准备就绪时,就会为该进程生成一个SIGIO信号,通过信号回调通知应用程序调用recvfrom来读取数据,并通知主循环函数处理数据,如图:
(五)异步I/O
告知内核启动某个操作,并让内核在整个操作完成后(包括将数据从内核复制到用户缓冲区)通知我们,这种模型和信号驱动模型的主要区别在于:信号驱动I/O由内核通知我们开始一个I/O操作,异步I/O由内核通知我们I/O操作何时已经完成。
三、I/O多路复用
(一)概述
在I/O编程中,当需要同时处理多个客户端请求的时候,可以利用多线程或者I/O多路复用技术进行处理。I/O多路复用技术通过把多个I/O的阻塞复用到同一个select的阻塞上,从而使系统在单个线程的情况下也可以处理多个客户端请求。与传统的多线程/多进程相比,I/O复用的最大优势是系统开销小,不需要创建额外的线程或者进程,也不需要维护这些线程和进程的运行,减少了维护工作量,节省了系统资源。
(二)应用场景
- 服务器需要同时处理多个处于监听状态或者多个连接状态的套接字;
- 服务器需要同时处理多种网络协议的套接字
(三)支持I/O复用的系统调用
目前支持I/O多路复用的系统有:select,pselect,poll,epoll等。
(四)epoll的优势
- 支持一个进程打开的socketfd不受限制(仅受操作系统的最大文件句柄数)
select模型最大的缺陷就是单个进程能打开的FD是有一定限制的,它是有FD_SETSIZE来设置的,默认是1024。可以修改这个宏然后重新编译操作系统内核,但是会带来网络效率的下降。epoll没有这个限制,仅受操作系统最大文件句柄数限制,例如:1G内存的机器大约是10万个文件句柄。具体可以通过cat /proc/sys/fs/file-max查看。 - I/O效率不会随着FD数量的增长而线性下降
传统select或者poll的另一个致命缺陷是,当拥有一个很大的socket集合时,由于网络延迟或者链路空闲,任一时刻只有少部分的socket是“活跃”的,但是select/poll每次调用都会线性扫描所有的socket集合。epoll只会对活跃的socket进行操作,因为在内核实现上epoll是通过每个fd的回调函数实现的。 - 使用mmap内存加速内核与用户空间的消息传递
不管是什么模型,都需要内核把fd消息通知给用户空间,如何避免不必要的内存复制就变得非常重要,epoll是通过内核和用户空间mmap同一块内存来实现的。 - epoll的API更加简单