前提:
由于nginx需要对请求包通过负载均衡算法(轮询、权重、哈希)选定后端服务器进行请求包的转发。nginx支持高并发关键:多进程+多路复用epoll:
目录
nginx多进程与多路复用epoll:
1、多进程:
多进程是指nginx有多个worker进程来接收与处理请求(每个worker需要通过争夺互斥锁的方式来选择由谁处理该请求,worker由master进程进行管理)。
2、多路复用epoll:
多路复用epoll作为NIO的一种处理方式。相较于其他两种多路复用方法select(存储网络链接索引结构为数组)、poll(存储网络链接索引结构为链表),epoll利用了红黑树的结构存储网络链接索引,使得查找与获取请求数据的链接速度比前两者通过轮询查找的速度快得多。
注意:多路复用epoll是在内核线程中进行。当执行结束确认了是哪个链接发送了请求后,通过中断程序唤醒请求处理的worker进程。(TCP协议前提是保证链接上了才发送与接收请求包,未链接上则不发送也不接收请求包)
图片来源:NIO与JAVA异步
多路复用NIO原理图:
标准IO与NIO比较图:
多路复用属于异步操作?
异步是软件层面,相对于当前进程或者线程而言。而多路复用关键请求查找操作在内核线程中进行,请求处理通过中断程序唤醒worker进程,在worker进程中进行。那么多路复用对于worker进程来说是异步阻塞的。
DMA直接存储器访问:
DMA是网络数据包获取与存储的关键。允许不同速度的硬件装置来沟通,而不需要依赖于 CPU 的大量中断负载。在NIO应用中为网卡将接收到的数据通过DMA将数据存储于内存,通过中断指令通知CPU去处理请求数据,NIO中为通知内核线程去处理;以及将待发送数据从内存传输到网卡进行发送。DMA完全有硬件实现,是硬件层面处理操作,非软件层次。