深入理解 Socket, NIO 和 Epoll

最新推荐文章于 2022-03-18 10:01:56 发布
最新推荐文章于 2022-03-18 10:01:56 发布
阅读量804 收藏 4
点赞数 1
分类专栏： java 网络 Linux
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_40864891/article/details/106717955
版权

之前在内部分享过一次关于NIO相关的知识，感觉通过这次整理，对NIO和Epoll整体上又多了一些认识，虽然没有能力阅读内核源码，但是希望这篇文章可以从整体上帮助各位认识NIO和Epoll。

文章目录

中断

计算机执行程序时，会有优先级的需求。比如，当计算机收到断电信号时（电容可以保存少许电量，供CPU运行很短的一小段时间），它应立即去保存数据，保存数据的程序具有较高的优先级。

一般而言，由硬件产生的信号需要cpu立马做出回应（不然数据可能就丢失），所以它的优先级很高。cpu理应中断掉正在执行的程序，去做出响应；当cpu完成对硬件的响应后，再重新执行用户程序。中断的过程如下图，和函数调用差不多。只不过函数调用是事先定好位置，而中断的位置由“信号”决定。

在这里插入图片描述

不同的设备对应的中断不同，而每个中断都通过一个唯一的数字标识。这些中断值通常被称为中断请求(IRQ)线。比如，IRQ0是时钟中断，而IRQ1是键盘中断。并不是所有的中断号都这样严格定义，像PCI总线上的设备，中断就是动态分配的。

中断号在中断处理过程中起到很重要的作用，在采用向量中断方式的中断系统中，CPU必须通过它才可以找到中断服务程序的入口地址，实现程序的转移。为了在中断向量表中查找中断服务程序的入口地址，可由中断号(n)×4得到一个指针，指向中断向量(即中断服务程序的入口地址)存放在中断向量表的位置，从中取出这个地址(CS：IP)，装入代码段寄存器CS和指令指针寄存器IP，即转移到了中断服务程序。

网卡中断

当网卡把数据写入到内存后，网卡向cpu发出一个中断信号，操作系统便能得知有新数据到来，再通过网卡中断程序去处理数据（也就是数据经过DMA已经从磁盘缓冲区到内核了，cpu介入内核态将数据从内核返回到用户进程内存，如果没有DMA的话，可能要CPU多次从磁盘缓冲区拷贝到内核态，然后再从内核态到用户进程内存）。

中断函数是 驱动程序注册到Linux Kernel中的中断子系统注册的中断处理函数。

数据的发送与接收：

  1. 当我们需要发送数据时，最终调用的是网卡驱动提供的函数：net_device->hard_start_xmit()；

  2. 当我们接收到数据时，会触发中断，中断处理函数调用会调用内核函数来接收数据（放入缓冲区？），最终由驱动程序调用内核函数netif_receive_skb()，把报文送入协议栈（接下来的代码硬件无关，与具体报文处理协议相关，比如：ARP协议，IPv4协议，IPv6协议等）。

  3. 网卡的中断处理函数在调用内核函数接收数据时又分为非NAPI/NAPI两种方式；

  4. NAPI方式涉及到中断的下半部处理的概念以及软中断。

  5. 报文通过**netif_receive_skb()**送入协议栈之后，首先判断需不需要进行桥接处理；

  6. 如果报文没有被桥接代码处理，再调用协议处理函数来处理；

  7. 在这里插入图片描述

  8. 中断合并：当数据量很少的时候，每来一个数据包网卡都回产生一个中断，kernel响应这个中断，从网卡缓冲区中读出数据放进协议栈处理，当满足一定条件时，kernel回调用户代码，这里的“回调”一般情况下是指从一个kernel syscall中返回(在此之前用户代码一直处于block状态)。
    当数据量很大时，每个包都产生一个中断就划不来了，此时kernel可以启动interrupt coalescing机制，让网卡做中断合并，也就是说来足够多的数据包或者等待一个timeout才会产生一个中断，kernel在响应中断时会把所有数据一起读出来处理，这样可以有效的降低中断次数。
    当数据量更大时，网卡缓冲区里几乎总是有未处理的数据，此时kernel干脆会禁掉网卡的中断，切换到轮询处理的模式，说白了就是跑一个忙循环不停地读网卡缓冲区里的数据，这样综合开销更低。

软中断

系统调用就是软中断，也就是用户态切换到内核态

所有软中断的中断号都是0x80,它是上层应用程序与Linux系统内核进行交互通信的唯一接口。其中断处理程序是system_call,当检测到系统调用发生时（int 0x80中断），第一步先保存现场，通过一个宏指令SAVE_ALL实现的，这个指令是把寄存器的状态通过压栈的方式保存起来。

然后会调用sys_call_table，通过eax寄存器的值查找系统调用表，找到几号系统调用，然后调用相应的系统调用。

最终恢复现场，然后应用继续执行。

阻塞的原理

工作队列

操作系统为了支持多任务，实现了进程调度的功能，会把进程分为“运行”和“等待”等几种状态。运行状态是进程获得cpu使用权，正在执行代码的状态；等待状态是阻塞状态，比如上述程序运行到recv时，程序会从运行状态变为等待状态，接收到数据后又变回运行状态。操作系统会分时执行各个运行状态的进程，由于速度很快，看上去就像是同时执行多个任务。

下图中的计算机中运行着A、B、C三个进程，其中进程A执行着上述基础网络程序，一开始，这3个进程都被操作系统的工作队列所引用，处于运行状态，会分时执行。

在这里插入图片描述

等待队列

当进程A执行到创建socket的语句时，操作系统会创建一个由文件系统管理的socket对象（如下图）。这个socket对象包含了发送缓冲区、接收缓冲区、等待队列等成员。等待队列是个非常重要的结构，它指向所有需要等待该socket事件的进程。

在这里插入图片描述

创建socket

当程序执行到recv时，操作系统会将进程A从工作队列移动到该socket的等待队列中。由于工作队列只剩下了进程B和C，依据进程调度，cpu会轮流执行这两个进程的程序，不会执行进程A的程序。所以进程A被阻塞，不会往下执行代码，也不会占用cpu资源。

ps：操作系统添加等待队列只是添加了对这个“等待中”进程的引用，以便在接收到数据时获取进程对象、将其唤醒，而非直接将进程管理纳入自己之下。上图为了方便说明，直接将进程挂到等待队列之下。

唤醒进程

当socket接收到数据后，操作系统将该socket等待队列上的进程重新放回到工作队列，该进程变成运行状态，继续执行代码。也由于socket的接收缓冲区已经有了数据，recv可以返回接收到的数据。

内核接受网络数据的全过程

在这里插入图片描述
如下图所示，进程在recv阻塞期间，计算机收到了对端传送的数据（步骤①）。数据经由网卡传送到内存（步骤②），然后网卡通过中断信号通知cpu有数据到达，cpu执行中断程序（步骤③）。此处的中断程序主要有两项功能，先将网络数据写入到对应socket的接收缓冲区里面（步骤④），再唤醒进程A（步骤⑤），重新将进程A放入工作队列中。

唤醒进程的过程如下图所示。

在这里插入图片描述

以上是内核接收数据全过程

这里留有两个思考题，大家先想一想。

其一，操作系统如何知道网络数据对应于哪个socket？

其二，如何同时监视多个socket的数据？

第一个问题：因为一个socket对应着一个端口号，而网络数据包中包含了ip和端口的信息，内核可以通过端口号找到对应的socket。当然，为了提高处理速度，操作系统会维护端口号到socket的索引结构，以快速读取。

第二个问题则是epoll等内核技术来解决

Unix 网络IO分类

Unix提供了5种不同的I/O模型，分别是

  • 阻塞I/O(blocking I/O)
  • 非阻塞I/O(non-blocking I/O)
  • I/O复用(I/O multiplexing)
  • 信号驱动式I/O(signal-driven I/O)
  • 异步I/O(asynchronous I/O)

一个I/O操作需要从用户态进入内核态运行,通常包括俩阶段

  1. 等待数据
  2. 从内核向进程复制数据

对于socket I/O而言，第一步通常是等待数据从网络中到达，到达之后会复制到内核的某个缓冲区
第二步就是从内核缓冲区复制到应用进程缓冲区

阻塞I/O

在这里插入图片描述

默认情况下，所有的socket都是阻塞的. 如图所示

  1. 应用发起recvfrom这个系统调用, 应用被阻塞
  2. 内核等待数据准备好
  3. 数据准备好, 内核将数据复制到应用缓冲区
  4. 应用从阻塞里恢复，处理数据

这也是理解和编程起来比较简单的模型，所以计算机早期用的很多,现在在处理超大文件的时候，也依然适用于这种模型。

非阻塞I/O

在这里插入图片描述

相比于Blocking I/O, Non-Blocking I/O的等待数据阶段不会被阻塞，也就是说操作系统不会挂起应用, 应用
不断轮询(polling)内核看是否数据准备好。某次轮询发现准备好了，再直接发系统调用阻塞取数据.

Unix网络编程里对轮询的定义是:
应用进程对非阻塞描述符循环发送系统调用，以查看某个操作是否就绪

I/O多路复用

在这里插入图片描述
在处理非常多的描述符的时候，I/O多路复用技术显得非常有用。I/O多路复用需要发送2次系统调用:

  1. select或者poll, 获取可读条件, 等待描述符变成可读
  2. 发起recvfrom系统调用，内核复制数据到应用。

在只有1个客户端的时候，I/O多路复用技术甚至不如阻塞I/O.因为多发了一次系统调用。
但有些常用的网络场景，如:

  • 既要处理TCP,又要处理UDP
  • 一个服务器处理多个服务或者多个协议
  • 一个TCP服务器既要监听socket，又要处理已连接socket

这些场景下，多发的这次系统调用能带来更高的I/O处理效率，能更均匀的使用服务器时间片, 处理更多连接。
常用的方法是把I/O多路复用和非阻塞I/O结合使用，这样应用进程不需要阻塞，能处理别的业务，同时又能够处理多个I/O请求

这里可以看出，多路复用也是在第一阶段生效，也就是说进程阻塞在多路复用器epoll上，当数据从缓冲区读到内核完毕后，进程被唤醒

但是第二步，进程发起系统调用，将数据从内核buffer read到用户空间，这一步仍然是阻塞的，但是这一步通常都很快（比如一个socketChannel 一端连接的是一个socket，一端是buffer，所以get(buffer)就是将socker 在内核中的数据读到用户空间的buffer）

信号驱动I/O

在这里插入图片描述
信号模型的步骤是:

  1. 应用进程发起一个信号，告诉内核要什么文件，然后立马返回
  2. 内核准备好数据
  3. 应用进程收到信号发起recvfrom系统调用来阻塞取数据

信号驱动模型类似于你去一点点买奶茶，对方给你一个小票。
什么时候好了对方喊xx号(这就是信号)好了.然后你来取奶茶(recvfrom取数据)

异步I/O

最低0.47元/天 解锁文章
苦逼程序猿BOB
关注
  • 1
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Java NIO原理和使用
12-04
本文主要简单介绍NIO的基本原理，在下一篇文章中，将结合Reactor模式和著名线程大师Doug Lea的一篇文章深入讨论。 NIO主要原理和适用。 NIO 有一个主要的类Selector,这个类似一个观察者，只要我们把需要探知的...
netty4.0.45jar包socket和http工具包
02-24
Netty 4.0.45提供了高度优化的NIO（非阻塞I/O）和EPOLL（用于Linux系统的高效I/O）实现，确保了在处理大量并发连接时的性能。 在Socket开发中，Netty的ChannelHandlerContext和EventLoopGroup等概念非常关键。...
socket epoll模型
背着行囊去远方的博客
01-07 839
linux 使用epoll主要目的是啥 为了实现非阻塞么？ socket本来就有阻塞和非阻塞两种模式，与epoll无关。 epoll是针对多socket操作（从select升级到poll再到epoll都是解决这个目的）。 如果不用poll方法，在阻塞模式下，操作多socket，要么用多线程，要么用多进程，都会带来一定的开发复杂度和性能降低。在非阻塞模式下，就要使用轮询，浪费处理能力很厉害。 所以，epoll是为了让程序只在一个线程中就能操作大量socket而提供的一个核心功能，同时还提供了很高的处理
socket、poll、epoll的区别
07-21 5233
1.  支持一个进程打开大数目的socket描述符(FD)    select最不能忍受的是一个进程所打开的FD是有一定限制的，由FD_SETSIZE设置，默认值是2048。对于那些需要支持的上万连接数目的IM服务器来说显然太少了。这时候你一是可以选择修改这个宏然后重新编译内核，
socket之epoll
weixin_44522306的博客
06-04 487
一、select的缺陷 1、高并发的核心解决方案是1个线程处理所有连接的“等待消息准备好”，这一点上epoll和select是无争议的。但select预估错误了一件事，当数十万并发连接存在时，可能每一毫秒只有数百个活跃的连接，同时其余数十万连接在这一毫秒是非活跃的。select的使用方法是这样的：返回的活跃连接 ==select（全部待监控的连接）。 2、什么时候会调用select方法呢？在你认为...
C语言--socket、epoll
造梦先森Kai的专栏
06-17 2623
分为服务器端和客户端，服务器端监听端口发来的请求，收到后向客户端发送一个Hello World,客户机负责发送消息并打印收到的Hello World. 服务器步骤：建立socket,绑定socket和地址信息，开启监听，收到请求后发送数据。 客户端步骤：建立socket,连接服务器端，接收并打印服务器给的数据 服务器： #include<stdio.h> #include&lt..................
epoll 使用方法之socket 重要关系结构图
yuanjunqing的专栏
02-21 414
参考文章：https://tqr.ink/2017/10/05/implementation-of-epoll/
linux socket NIO epoll教程参数讲解.zip
12-12
大并发服务器编程模型 windows iocp完成端口模型可支持1万大并发,但是linux能作到5万大并发
Socket高性能IO模型浅析
03-03
（3）IO多路复用（IOMultiplexing）：即经典的Reactor设计模式，有时也称为异步阻塞IO，Java中的Selector和Linux中的epoll都是这种模型。（4）异步IO（AsynchronousIO）：即经典的Proactor设计模式，也称为异步非...
socket服务器
06-19
此外，为了提高性能和可扩展性，可能会引入多线程或异步IO模型，如epoll在Linux上的应用，或者Java的NIO框架。 标签"socket"表明我们关注的是网络通信的基本单元，它是构建分布式系统和网络应用的关键技术。通过...
Linux下socket通信和epoll
weixin_30387423的博客
07-25 65
上一篇博客用多线程实现服务端和多个客户端的通信，但是在实际应用中如果服务端有高并发的需求，多线程并不是一个好选择。 实现高并发的一种方法是IO多路复用，也就是select，poll，epoll等等。 于是我采用epoll再修改了服务端，实现单线程服务多个客户端。 服务端： 1 #include <stdio.h> 2 #include <stdlib.h&g...
网络编程之socket、epoll
chengjaven的博客
09-07 414
当TCP客户端同时处理两个输入：标准输入和TCP套接字。我们遇到的问题在阻塞于fgets调用期间，服务器进程会被杀死。服务器TCP虽然正确的给客户TCP发送了一个FIN字节，但是既然客户进程正阻塞于从标准输入读入的过程，它将看不到这个EOF，直到从套接字读时为止。这样的进程需要一种预先告知内核的能力，使得内核一旦发现进程指定的一个或多个I/O条件就绪，它就通知进程。这个能力称为I/O复用。
linux socket和epoll使用心得
aka_xingwenpeng的专栏
09-26 687
nt nRecvBuf=32*1024;//设置为32K setsockopt(s,SOL_SOCKET,SO_RCVBUF,(const char*)&nRecvBuf,sizeof(int)); 1、通过上面语句可以简单设置缓冲区大小,测试证明：跟epoll结合的时候只有当单次发送的数据全被从缓冲区读完毕之后才会再次被触发，多次发送数据如果没有读取完毕当缓冲区未满的时候数据不会丢失，会累加
socket编程之select、epoll区别及实现
She_wj的博客
11-10 928
监视多个socket描述符简单方法-selcet 函数原型： int select(int nfds, fd_set *readfds, fd_set *writefds,fd_set *exceptfds,struct timeval *timeout)； 宏操作fd_set集合： void FD_CLR(int fd, fd_set *set);清除位图set（描述符集合）中的fd int F...
socket编程之epoll多路复用
我们的征途是星辰大海
08-01 991
epoll的相关系统调用 1、int epoll_create(int size); 创建一个epoll描述符，该描述符占用一个fd值，程序退出前必须调用close()关闭，参数size为最大监听事件数 2、int epoll_ctl(int epfd, int op, int fd, struct epoll_event *event); epoll的事件注册函数，它不同于select(
NIO-epoll理解
zzjj9527的博客
03-17 155
NIO-epoll理解IOBIONIO IO 本质上由IO-NIO/多路复用，是为了减少系统调用的阻塞 BIO socket通信，bio会阻塞等待server输入，可以创建每接收一个输入新建线程执行（传统方式） jps查看java进程 netstat -natp查看socket 缺点：线程太多，原因：阻塞 NIO serverSocketChannel.configureBlocking(false) 手动配置非阻塞 原本阻塞的方法不会阻塞，会立刻返回（-1或者null） 通道循环轮询内核查看是否有新增任
NIO 与 epoll
m0_51380306的博客
03-18 1813
文章目录epoll 与 select第一部分：select 和 epoll的任务select 的做法epoll的做法第二部分：epoll详解epoll 系统调用epoll高效的原因epoll综合的执行过程epoll 水平触发（LT）和边缘触发（ET）的实现第三部分：epoll高效的本质NIO传统BIO模型分析NIO是怎么工作的常见I/O模型对比如何结合事件模型使用NIO同步非阻塞特性优化线程模型NIO在客户端的魔力每连接顺序请求的Redis多连接短连接的HttpClient常见的RPC框架，如Thrift，
深入理解NIO底层原理--epoll多路复用
wangzuojia001的博客
09-22 730
在使用选择和轮询时，我们管理用户空间上的所有内容，并在每次调用时发送集合以等待。要添加另一个套接字，我们需要将其添加到集合中并再次调用select/poll。 epoll系统调用帮助我们创建和管理内核中的上下文。我们将任务分为3个步骤: 使用epoll_create在内核中创建上下文 使用epoll_ctl在上下文中添加或删除文件描述符 使用epoll_wait等待上下文中的事件 epoll底层逻辑 struct epoll_event events[5]; // 使用epoll_creat
epoll编程实例客户端_网络编程（一）BIO、NIO原理解析
weixin_34457338的博客
01-01 159
本篇文章，笔者将和大家一起探讨BIO、NIO的原理。希望通过这边文章能让读者了解BIO、NIO他们的区别以及原理。本文涉及一些操作系统相关知识、笔者尽可能使用通俗的文字叙述。BIO：同步阻塞IONIO：同步非阻塞IO上面文字笔者已经加粗、可以看出来这两行很重要啊。是的接下来我们就是从这两行开始分析。两行的唯一不同就是NIO多了一个非字。 Request 1: 那么BIO阻塞点在哪里呢？下面我们看一...
深入理解java里nio的非阻塞
最新发布
03-26
Java NIO（New IO）包含了非阻塞的IO操作。传统的Java IO类库是基于流（stream）的，这意味着每个操作都是阻塞的，即程序必须等待操作完成才能进行下一步操作。相反，Java NIO是基于缓冲区（Buffer）和通道（Channel）的，允许程序异步地读取和写入数据，而不需要阻塞等待。这就是非阻塞IO的概念。 对于Java NIO，一个（同步）线程可以同时处理多个连接（通道），这样就可以避免创建大量的线程。此外，Java NIO还提供了选择器（Selector）的概念，可以检查多个通道是否准备好进行读写操作，从而进一步提高效率。 需要注意的是，Java NIO的非阻塞性是相对的，因为在一些情况下还是需要等待数据的到来或数据的处理结束才能进行下一步操作。 总之，Java NIO的非阻塞IO可以使程序更好地利用资源，提高吞吐量和性能表现，尤其适用于处理高并发的网络应用。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值