Nginx学习笔记

Nginx服务器如何处理请求？

“Nginx服务器的一个显著优势是能够同时处理大量并发请求。它结合多进程机制和异步机制对外提供服务。异步机制使用的是异步非阻塞方式。Nginx服务器启动后，可以产生一个主进程（master process）和多个工作进程（worker processes）。Master-Worker模型实际上被更广泛地称为Master-Slave模型。在Nginx服务器中，充当Slave角色的是工作进程。”

“每个工作进程使用了异步非阻塞方式，可以处理多个客户端请求。当某个工作进程接收到客户端的请求以后，调用IO进行处理，如果不能立即得到结果，就去处理其他的请求；而客户端在此期间也无需等待响应，可以去处理其他的事情；当IO调用返回结果时，就会通知此工作进程；该进程得到通知，暂时挂起当前处理的事务，去响应客户端请求。”

事件驱动模型

事件驱动模型一般是由事件收集器、事件发送器和事件处理器三部分基本单元组成。多路IO复用方法，最常见的包括以下三种：select、poll和epoll。多路IO复用中的“多路”指的是多个网络连接，“复用”指的是复用同一个线程。多路 I/O 复用技术可以让单个线程高效的处理多个连接请求（尽量减少网络 IO 的时间消耗）。

epoll是Linux内核为处理大批量文件描述符而作了改进的poll，是Linux下多路复用IO接口select/poll的增强版本，它能显著提高程序在大量并发连接中只有少量活跃的情况下的系统CPU利用率。原因就是获取事件的时候，它无须遍历整个被侦听的描述符集，只要遍历那些被内核IO事件异步唤醒而加入Ready队列的描述符集合就行了。

惊群现象

所有的工作进程都在等待一个socket，当socket客户端连接时，所有工作线程都被唤醒，但最终有且仅有一个工作线程去处理该连接，其他进程又要进入睡眠状态。

Nginx通过控制争抢处理socket的进程数量和抢占ngx_accept_mutex锁解决惊群现象。只有一个ngx_accept_mutex锁，谁拿到锁，谁处理该socket的请求。

如果当前进程的连接数>最大连接数*7/8，则该进程不参与本轮竞争。

零拷贝

文件进入网络协议栈，只需 2 次拷贝：第一次使用 DMA 引擎从文件拷贝到内核缓冲区，第二次从内核缓冲区将数据拷贝到网络协议栈；内核缓存区只会拷贝一些 offset 和 length 信息到 SocketBuffer，基本无消耗。

等一下，不是说零拷贝吗？为什么还是要 2 次拷贝？

答：首先我们说零拷贝，是从操作系统的角度来说的。因为内核缓冲区之间，没有数据是重复的（只有 kernel buffer 有一份数据）。

零拷贝不仅仅带来更少的数据复制，还能带来其他的性能优势，例如更少的上下文切换，更少的 CPU 缓存伪共享以及无 CPU 校验和计算。

参考资料：

1. 似水牛年：IO多路复用的三种机制Select，Poll，Epoll - 简书
2. wendy_keeping：Nginx解决惊群现象_cong1024的博客-CSDN博客
3. Dimitri Aivaliotis ，陶利军：《精通Nginx》
4. 黄泽:《Nginx高性能web服务器详解》
5. 莫那一鲁道：零拷贝 - 简书

-------------------------------------------------------------------------------------------------------

我的公众号：永宁河（peace_river）