八、网络编程之多路复用 IO 模型详解

上一篇文章中同步非阻塞 IO 让应用层不断轮询 kernel 数据准备是否准备就绪,大大推高了 CPU 占用率,实际上操作系统提供了更为高效的轮询接口。本文将讨论这种更加高效的方式—多路复用 IO 模型。

网络编程之多路复用 IO 模型详解

网络原理

多路复用 IO 也称为事件驱动 IO(event driven IO),它的基本原理是不再由应用程序自己监视客户端连接,取而代之由内核替应用程序监视文件。Linux下常用的多路复用 IO 有 select、poll、epoll。

多路复用 IO 模型使用 select/poll/epoll 等多路复用函数去不断的轮询所负责的所有 socket,,当某个 socket 有数据到达了,就通知用户进行数据读取。这样实现的好处在于单个 process 就可以同时处理多个网络连接请求。以 select 为例, 发生 IO 执行 read 操作时,它会经历两个阶段:

  • 第一个阶段,等待数据准备就绪:

    当用户进程调用了 select,那么整个进程会被 block,而同时,kernel 会“监视”所有 select 负责的 socket,当任何一个 socket 中的数据准备好了,select 就会返回。

  • 第二个阶段,将数据从内核拷贝到用户进程中:

    select 就会返回后,用户进程再调用 read 操作,将数据从 kernel 拷贝到用户进程。

在这里插入图片描述

网络特点

(1)处理更多的连接

上图和 blocking IO 的图其实并没有太大的不同,事实上还更差一些。因为这里需要使用两个系统调用(select 和 read),而 blocking IO 只调用了一个系统调用(read)。

但是使用 select 以后最大的优势是用户可以在一个进程/线程内同时处理多个 socket 的 IO 请求。用户可以注册多个 socket,然后不断地调用 select 读取被激活的 socket,即可达到在同一个线程内同时处理多个 IO 请求的目的。而在同步阻塞模型中,必须通过多线程的方式才能达到这个目的。

所以如果处理的连接数不是很高的话,使用 select/poll/epoll 的 server 不一定比使用 multi-threading + blocking IO 的 server 性能更好,可能延迟还更大。select/poll/epoll 的优势并不是对于单个连接能处理得更快,而是在于能处理更多的连接

(3)事件驱动

多路复用IO 模型中,一个文件描述符对应着一个事件,每一个执行周期都会探测一次或一组事件,一个特定的事件会触发某个特定的响应。我们可以将这种模型归类为“事件驱动模型”,所以多路复用IO也称为事件驱动 IO。比如读事件:如果事件(客户端文件描述符)发生了变化(缓存区发生变化)就需要去处理该事件(读取数据)。

(3)select 阻塞

在多路复用模型中,对于每一个 socket,一般都设置成为 non-blocking,但是,如上图所示,整个用户的 process 其实是一直被 block 的。只不过 process 是被 select 这个函数 block,而不是被 socket IO 给 block

网络问题

多路复用 IO 网络模型大大提高了并发性能,但依旧有着很多问题:

  • 首先,当需要探测的句柄(套接字文件描述符)值较大时,select/poll 接口本身需要消耗大量时间去轮询各个句柄。

    很多操作系统提供了更为高效的接口,如linux提供了epoll,BSD提供了kqueue,Solaris提供了/dev/poll 等。如果需要实现更高效的服务器程序,类似 epoll 这样的接口更被推荐。但是不同的操作系统特供的 epoll 接口有很大差异,所以使用类似于 epoll 的接口实现具有较好跨平台能力的服务器会比较困难。

    后面的系列文章将会分别介绍 select、poll 和 epoll 接口的使用。

  • 其次,该模型将事件探测和事件响应夹杂在一起,一旦事件响应的执行体庞大,则对整个模型是灾难性的。庞大的执行体将直接导致响应事件执行体迟迟得不到执行,并在很大程度上降低了事件探测的及时性

    幸运的是,有很多高效的事件驱动库可以屏蔽上述的困难,常见的事件驱动库有 libevent 库,还有作为 libevent 替代者的 libev 库。这些库会根据操作系统的特点选择最合适的事件探测接口,并且加入了信号(signal)等技术以支持异步响应,这使得这些库成为构建事件驱动模型的不二选择。后面的系列文章将会介绍如何使用 libev 库替换 select 或 epoll接口,实现高效稳定的服务器模型。

网络使用

Linux 下 select 使用

详细请参考系列文章《网络编程之 select 详解

Linux 下 poll 使用

详细请参考系列文章《网络编程之 poll 详解

Linux 下 epoll 使用

详细请参考系列文章《

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值