转载
https://blog.csdn.net/weixin_47082274/article/details/107333450
架构简介
首先要明白,Nginx 采用的是多进程(单线程) & 多路IO复用模型。使用了 I/O 多路复用技术的 Nginx,就成了”并发事件驱动“的服务器。
$ ps -elf|grep nginx
5 S root 396210 1 0 80 0 - 17947 - Jan08 ? 00:00:00 nginx: master process /opt/software/nginx/bin/t-alipay-tengine -c /home/admin/bkagdsmng-run/tenginx-conf/t-alipay-tengine.conf
4 S admin 396211 396210 0 80 0 - 4637 - Jan08 ? 00:00:00 /opt/software/cronolog/sbin/cronolog logs/nginx/cronolog/%Y/%m/%Y-%m-%d-error.log
4 S admin 396212 396210 0 80 0 - 4637 - Jan08 ? 00:00:00 /opt/software/cronolog/sbin/cronolog logs/nginx/cronolog/%Y/%m/%Y-%m-%d-access.log
5 S admin 396213 396210 0 80 0 - 20124 - Jan08 ? 00:00:21 nginx: worker process
5 S admin 396214 396210 0 80 0 - 20139 - Jan08 ? 00:00:24 nginx: worker process
5 S admin 396215 396210 0 80 0 - 20124 - Jan08 ? 00:00:26 nginx: worker process
5 S admin 396216 396210 0 80 0 - 20123 - Jan08 ? 00:00:26 nginx: worker process
5 S admin 396217 396210 0 80 0 - 20159 - Jan08 ? 00:00:23 nginx: worker process
5 S admin 396218 396210 0 80 0 - 20123 - Jan08 ? 00:00:25 nginx: worker process
0 S log 472958 472755 0 80 0 - 29428 pipe_w 10:46 pts/0 00:00:00 grep nginx
多进程的工作模式
Nginx 在启动后,会有一个 master 进程和多个相互独立的 worker 进程。
master 接收来自外界的信号,向各 worker 进程发送信号,每个进程都有可能来处理这个连接。
master 进程能监控 worker 进程的运行状态,当 worker 进程退出后(异常情况下),会自动启动新的 worker 进程。
优点:
-
注意 worker 进程数,一般会设置成机器 cpu 核数。因为更多的 worker 数,只会导致进程相互竞争 cpu ,从而带来不必要的上下文切换。
-
使用多进程模式,不仅能提高并发率,而且进程之间相互独立,一个 worker 进程挂了不会影响到其他 worker 进程。
-
多进程模式可以避免多线程开发的锁金正。
惊群现象
主进程(master 进程)首先通过 socket() 来创建一个 sock 文件描述符用来监听,然后fork生成子进程(workers 进程),子进程将继承父进程的 sockfd(socket 文件描述符),之后子进程 accept() 后将创建已连接描述符(connected descriptor),然后通过已连接描述符来与客户端通信。
那么,由于所有子进程都继承了父进程的 sockfd,那么当连接进来时,所有子进程都将收到通知并“争着”与它建立连接,这就叫“惊群现象”。大量的进程被激活又挂起,只有一个进程可以accept() 到这个连接,这当然会消耗系统资源。
Nginx 对惊群现象的处理
Nginx 提供了一个 accept_mutex 这个东西,这是一个加在accept上的一把共享锁。即每个 worker 进程在执行 accept 之前都需要先获取锁,获取不到就放弃执行 accept()。有了这把锁之后,同一时刻,就只会有一个进程去 accpet(),这样就不会有惊群问题了。accept_mutex 是一个可控选项,我们可以显示地关掉,默认是打开的。
Nginx 进程详解
Nginx 在启动后,会有一个 master 进程和多个 worker 进程。
master 进程
主要用来管理 worker 进程,包含接收来自外界的信号,向各 worker 进程发送信号,监控 worker 进程的运行状态,当 worker 进程退出后(异常情况下),会自动重新启动新的 worker 进程。
master 进程充当整个进程组与用户的交互接口,同时对进程进行监护。它不需要处理网络事件,不负责业务的执行,只会通过管理 worker 进程来实现重启服务、平滑升级、更换日志文件、配置文件实时生效等功能。
我们要控制 nginx,只需要通过 kill 向 master 进程发送信号就行了。比如 kill -HUP pid 是告诉 nginx 从容地重启 nginx。我们一般用这个信号来重启 nginx,或重新加载配置,因为是从容地重启,因此服务是不中断的。master 进程在接收到 HUP 信号后是怎么做的呢?
首先 master 进程在接到信号后,会先重新加载配置文件,然后再启动新的 worker 进程,并向所有老的 worker 进程发送信号,告诉他们可以光荣退休了。新的 worker 在启动后,就开始接收新的请求,老的 worker 在收到来自 master 的信号后,就不再接收新的请求,并且在当前进程中的所有未处理完的请求处理完成后,再退出。
当然,直接给 master 进程发送信号,这是比较老的操作方式,nginx 在 0.8 版本之后,引入了一系列命令行参数,来方便我们管理。比如 ./nginx -s reload 就是来重启 nginx,./nginx -s stop 就是来停止 nginx 的运行。如何做到的呢?我们还是拿 reload 来说,我们看到,执行命令时,我们是启动一个新的 nginx 进程,而新的 nginx 进程在解析到 reload 参数后,就知道我们的目的是控制 nginx 来重新加载配置文件了,它会向 master 进程发送信号,然后接下来的动作,就和我们直接向 master 进程发送信号一样了。
worker 进程
而基本的网络事件,则是放在 worker 进程中来处理了。多个 worker 进程之间是对等的,他们同等竞争来自客户端的请求,各进程互相之间是独立的。一个请求只可能在一个 worker 进程中处理,一个 worker 进程不可能处理其它进程的请求。worker 进程的个数是可以设置的,一般我们会设置与机器 cpu 核数一致,这里面的原因与 nginx 的进程模型以及事件处理模型是分不开的。
worker 进程之间是平等的,每个进程处理请求的机会也是一样的。当我们提供 80 端口的 http 服务时,一个连接请求过来,每个进程都有可能处理这个连接,怎么做到的呢?首先,每个 worker 进程都是从 master 进程 fork 过来,在 master 进程里面,先建立好需要 listen的socket(listenfd)之后,然后再 fork 出多个 worker 进程。所有 worker 进程的 listenfd 会在新连接到来时变得可读,为保证只有一个进程处理该连接,所有 worker 进程在注册 listenfd 读事件前抢 accept_mutex,抢到互斥锁的那个进程注册 listenfd 读事件,在读事件里调用 accept 接受该连接。当一个 worker 进程在 accept 这个连接之后,就开始读取请求,解析请求,处理请求,产生数据后,再返回给客户端,最后才断开连接,这样一个完整的请求就是这样的了。我们可以看到,一个请求,完全由 worker 进程来处理,而且只在一个 worker 进程中处理。
worker 进程工作流程
当一个 worker 进程在 accept() 这个连接之后,就开始读取请求,解析请求,处理请求,产生数据后,再返回给客户端,最后才断开连接,一个完整的请求。一个请求完全由 worker 进程来处理,而且只能在一个 worker 进程中处理。
这样做带来的好处:
节省锁带来的开销。每个 worker 进程都是独立的进程,不共享资源,不需要加锁。同时在编程以及问题查上时,也会方便很多。
独立进程,减少风险。采用独立的进程,可以让互相之间不会影响,一个进程退出后,其它进程还在工作,服务不会中断,master 进程则很快重新启动新的 worker 进程。当然,worker 进程的也能发生意外退出。
多进程模型每个进程/线程只能处理一路 IO,那么 Nginx 是如何处理多路 IO 呢?
如果不使用 IO 多路复用,那么在一个进程中,同时只能处理一个请求,比如执行 accept(),如果没有连接过来,那么程序会阻塞在这里,直到有一个连接过来,才能继续向下执行。而多路复用,允许我们只在事件发生时才将控制返回给程序,而其他时候内核都挂起进程,随时待命。
核心:Nginx 采用的 IO 多路复用模型 epoll
Nginx 会注册一个事件:“如果来自一个新客户端的连接请求到来了,再通知我”,此后只有连接请求到来,服务器才会执行 accept() 来接收请求。又比如向上游服务器(比如 PHP-FPM)转发请求,并等待请求返回时,这个处理的 worker 不会在这阻塞,它会在发送完请求后,注册一个事件:“如果缓冲区接收到数据了,告诉我一声,我再将它读进来”,于是进程就空闲下来等待事件发生。