Nginx架构浅析：为什么不用多线程模型管理连接与处理逻辑业务？

最新推荐文章于 2024-11-05 00:06:29 发布
最新推荐文章于 2024-11-05 00:06:29 发布
阅读量482 收藏 9
点赞数 4
分类专栏： 程序员 文章标签： nginx 架构 服务器
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/inying/article/details/138971627
版权

NGX_PROCESS_RESPAWN);

…

for ( ;; ) {

if (delay) {…}

ngx_log_debug0(NGX_LOG_DEBUG_EVENT, cycle->log, 0, “sigsuspend”);

sigsuspend(&set);

ngx_time_update();

ngx_log_debug1(NGX_LOG_DEBUG_EVENT, cycle->log, 0,

“wake up, sigio %i”, sigio);

if (ngx_reap) {

ngx_reap = 0;

ngx_log_debug0(NGX_LOG_DEBUG_EVENT, cycle->log, 0, “reap children”);

live = ngx_reap_children(cycle);

}

if (!live && (ngx_terminate || ngx_quit)) {…}

if (ngx_terminate) {…}

if (ngx_quit) {…}

if (ngx_reconfigure) {…}

if (ngx_restart) {…}

if (ngx_reopen) {…}

if (ngx_change_binary) {…}

if (ngx_noaccept) {

ngx_noaccept = 0;

ngx_noaccepting = 1;

ngx_signal_worker_processes(cycle,

ngx_signal_value(NGX_SHUTDOWN_SIGNAL));

}

}

}

由上述代码，可以理解，master 进程主要用来管理 worker 进程，具体包括如下 4 个主要功能：

  • 1.接受来自外界的信号。其中 master 循环中的各项标志位就对应着各种信号，如： ngx_quit代表 QUIT 信号，表示优雅地关闭整个服务。

  • 2.向各个 worker 进程发送信。比如 ngx_noaccept 代表 WINCH 信号，表示所有子进程不再接受处理新的连接，由 master 向所有的子进程发送 QUIT 信号量。

  • ngx_reap CHILD ngx_reap_children

  • 4.当 woker 进程退出后（异常情况下），会自动重新启动新的 woker 进程。主要也是在 ngx_reap_children

2.2 热更

======

2.2.1 热重载-配置热更

==============

热重载

nginx 热更配置时，可以保持运行中平滑更新配置，具体流程如下：

  • 1.更新 nginx.conf 配置文件，向 master 发送 SIGHUP 信号或执行 nginx -s reload

  • 2.master 进程使用新配置，启动新的 worker 进程

  • 3.使用旧配置的 worker 进程，不再接受新的连接请求，并在完成已存在的连接后退出

2.2.2 热升级-程序热更

==============

热升级

nginx 热升级过程如下：

  • 1.将旧 Nginx 文件换成新 Nginx 文件（注意备份）

  • 2.向 master 进程发送 USR2 信号（平滑升级到新版本的 Nginx 程序）

  • 3.master 进程修改 pid 文件号，加后缀.oldbin

  • 4.master 进程用新 Nginx 文件启动新 master 进程，此时新老 master/worker 同时存在。

  • 5.向老 master 发送 WINCH 信号，关闭旧 worker 进程，观察新 worker 进程工作情况。若升级成功，则向老 master 进程发送 QUIT 信号，关闭老 master 进程；若升级失败，则需要回滚，向老 master 发送 HUP 信号（重读配置文件），向新 master 发送 QUIT 信号，关闭新 master 及 worker。

3.Worker 进程

===========

3.1 核心逻辑

========

worker 进程的主逻辑在 ngx_worker_process_cycle ，核心关注源码：

ngx_worker_process_cycle(ngx_cycle_t *cycle, void *data)

{

ngx_int_t worker = (intptr_t) data;

ngx_process = NGX_PROCESS_WORKER;

ngx_worker = worker;

ngx_worker_process_init(cycle, worker);

ngx_setproctitle(“worker process”);

for ( ;; ) {

if (ngx_exiting) {…}

ngx_log_debug0(NGX_LOG_DEBUG_EVENT, cycle->log, 0, “worker cycle”);

ngx_process_events_and_timers(cycle);

if (ngx_terminate) {…}

if (ngx_quit) {…}

if (ngx_reopen) {…}

}

}

由上述代码，可以理解，worker 进程主要在处理网络事件，通过 ngx_process_events_and_timers 方法实现，其中事件主要包括：网络事件、定时器事件。

3.2 事件驱动-epoll

==============

worker 进程在处理网络事件时，依靠 epoll 模型，来管理并发连接，实现了事件驱动、异步、非阻塞等特性。如下图所示：

infographic-Inside-NGINX_nonblocking

通常海量并发连接过程中，每一时刻（相对较短的一段时间），往往只需要处理一小部分有事件的连接即 活跃连接 。基于以上现象，epoll 通过将 连接管理 与 活跃连接管理 进行分离，实现了高效、稳定的网络 IO 处理能力。

网络模型对比

其中，epoll 利用红黑树高效的增删查效率来管理 连接 ，利用一个双向链表来维护 活跃连接 。

epoll数据结构

3.3 惊群

======

由于 worker 都是由 master 进程 fork 产生，所以 worker 都会监听相同端口。这样多个子进程在 accept 建立连接时会发生争抢，带来著名的“惊群”问题。worker 核心处理逻辑 ngx_process_events_and_timers 核心代码如下：

void ngx_process_events_and_timers(ngx_cycle_t *cycle){

//这里面会对监听socket处理

…

if (ngx_accept_disabled > 0) {

ngx_accept_disabled–;

} else {

//获得锁则加入wait集合,

if (ngx_trylock_accept_mutex(cycle) == NGX_ERROR) {

return;

}

…

//设置网络读写事件延迟处理标志，即在释放锁后处理

if (ngx_accept_mutex_held) {

flags |= NGX_POST_EVENTS;

}

}

…

//这里面epollwait等待网络事件

//网络连接事件，放入ngx_posted_accept_events队列

//网络读写事件，放入ngx_posted_events队列

(void) ngx_process_events(cycle, timer, flags);

…

//先处理网络连接事件，只有获取到锁，这里才会有连接事件

ngx_event_process_posted(cycle, &ngx_posted_accept_events);

//释放锁，让其他进程也能够拿到

if (ngx_accept_mutex_held) {

ngx_shmtx_unlock(&ngx_accept_mutex);

}

//处理网络读写事件

最后

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Java工程师，想要提升技能，往往是自己摸索成长，自己不成体系的自学效果低效漫长且无助。

因此收集整理了一份《2024年Java开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Java开发知识点，不论你是刚入门Java开发的新手，还是希望在技术上不断提升的资深开发者，这些资料都将为你打开新的学习之门！

如果你觉得这些内容对你有帮助，需要这份全套学习资料的朋友可以戳我获取！！

由于文件比较大，这里只是将部分目录截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且会持续更新！
1715856137216)]

[外链图片转存中…(img-sKtqZXYX-1715856137217)]

[外链图片转存中…(img-4ZqiRlUf-1715856137217)]

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Java开发知识点，不论你是刚入门Java开发的新手，还是希望在技术上不断提升的资深开发者，这些资料都将为你打开新的学习之门！

如果你觉得这些内容对你有帮助，需要这份全套学习资料的朋友可以戳我获取！！

由于文件比较大，这里只是将部分目录截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且会持续更新！

云计算与云原生技术系列文章
烟云的计算
08-04 4779
目录 文章目录目录OpenStack IaaSKubernetes CaaSOpenShift PaaS云计算行业剖析云计算发展预测 OpenStack IaaS Kubernetes CaaS OpenShift PaaS 云计算行业剖析 云计算发展预测
一文看懂分布式存储架构
weixin_70730532的博客
07-29 1万+
目录一、集中存储结构二、分布式存储1 、分布式存储的兴起2 、分布式存储的重要性3 、分布式存储的种类和比较三、分布式理论浅析1 、一致性和可用性2 、数据分布3 、复制4 、分布式协议5、跨机房部署四、分布式文件系统1、 Google 文件系统（ GFS ）2、 Taobao 文件系统（ TFS ）3、 Fackbook Haystack 文件系统4、 CDN 内容分发网络五、分布式键值系统1、 Amazon Dynamo2、 Taobao Tiar3、 ETCD4 、产品选型比较（ Etcd ， Zoo
Nginx 实现高并发与优化配置
qq_35354529的博客
08-26 923
Nginx 是如何实现高并发 异步，非阻塞，使用了epoll 和大量的底层代码优化 如果一个server采用一个进程负责一个request的方式，那么进程数就是并发数。正常情况下，会有很多进程一直在等待中，而nginx采用一个master进程，多个woker进程的模式。 master进程主要负责收集、分发请求。每当一个请求过来时，master就拉起一个worker进程负责处理这个请求。 同时master进程也负责监控woker的状态，保证高可靠性 woker进程一般设置为跟cpu核心数一致。nginx
nginx为什么不采用多线程管理连接及处理逻辑业务
笨且自律
08-20 1227
为什么不采用多线程模型管理连接？ (1)无状态服务，没有必要进行共享进程内存 (2)采用独立的进程，可以让互相之间不会影响。一个进程异常崩溃，其它进程的服务不会中断，提升了价格的可靠性 (3)进程之间不共享资源，不需要加锁,所以省掉了锁带来的开销 为什么不采用多线程处理逻辑业务？ (1)进程数已经等于核心数，再新建线程处理任务，只会抢占现有进程，增加切换代价 (2)作为接入层，基本上都是数据转发业务，网络IO任务的等待耗时部分，已经被处理为非阻塞，全异步，事件驱动模式，在没有更多cpu的情况
Nginx架构浅析
BigBrick的博客
04-02 2839
文章目录Nginx架构浅析1.Nginx基础架构2.Master进程2.1核心逻辑2.2热更2.2.1热重载-配置热更2.2.2热升级-程序热更3.Worker进程3.1核心逻辑3.2事件驱动-epoll3.3惊群3.4负载均衡4.思考4.1为什么不采用多线程模型管理连接？4.2为什么不采用多线程处理逻辑业务？ Nginx架构浅析 最近项目中使用了基于Nginx的OpenResty的框架，于是有了想学习了解Nginx相关内容的想法，现将一些理解撰写成文，和大家讨论一下。 1.Nginx基础架构 nginx启
Redis Cluster架构优化
热门推荐
西代零零发
09-25 2万+
Redis Cluster架构优化在《全面剖析Redis Cluster原理和应用》中，我们已经详细剖析了现阶段Redis Cluster的缺点： 无中心化架构 Gossip消息的开销 不停机升级困难 无法根据统计区分冷热数据 客户端的挑战 Cluster协议支持 连接和路由表的维护开销 MultiOp和Pipeline支持有限 Redis实现问题 不能自动发现 不能自动Resharding
Nginx线程模型
最新发布
猪猪
11-05 618
Nginx的线程模型具有其独特的设计特点，主要基于多进程和异步非阻塞的处理机制。
nginx为什么是多进程单线程和多路IO复用模型
qq422431474的博客
08-26 5762
Nginx现在是非常火爆的web服务器，她使用更少的资源，支持更多的并发连接数，她实现了linux的epoll模型，能够支持高达50,000个并发连接数的响应。Nginx采用的是多进程单线程和多路IO复用模型。使用了I/O多路复用技术的Nginx，就成了”并发事件驱动“的服务器。这里再强调下重点， 多进程单线程 多路IO复用模型 一、多进程单线程 Nginx 自己实现了对epoll的封装，是多进程单线程的典型代表。使用多进程模式，不仅能提高并发率，而且进程之间是相互独立的，一 个worker进..
文章12：初探Nginx架构之进程模型与事件处理机制
www.keything.net
09-25 1万+
欢迎大家转载，转载请注明出处http://blog.csdn.net/yankai0219/article/details/8018275 来自yankai0219 文章内容： 0.序 1.概述 2.Nginx的进程模型 3.Nginx的事件处理机制    3.1基本知识：    3.2网络事件的事件处理机制    3.3通过几个问题，进一步理解Nginx的网络事
03、Nginx到底是多进程单线程还是单进程多线程
码字不易，大家的支持就是我坚持下去的动力
07-04 2442
Nginx采用的是多进程模型，每个进程都是单线程的。Nginx的多进程模型主要由一个主进程（master process）和多个工作进程（worker process）组成。主进程负责管理和监控工作进程，而工作进程负责处理实际的客户端请求。每个工作进程都是单线程的，这意味着每个工作进程在同一时间只能处理一个客户端请求。轻量级：单线程模型相对于多线程或多进程模型来说更加轻量级，减少了线程切换和进程间通信的开销。可扩展性：通过创建多个工作进程，Nginx能够同时处理多个请求，实现高并发处理能力。
Nginx 多进程连接请求/事件分发流程分析及惊群分析
Linuxhus的博客
08-30 401
Nginx使用多进程的方法进行任务处理，每个worker进程只有一个线程，单线程循环处理全部监听的事件。本文重点分析一下多进程间的负载均衡问题以及Nginx多进程事件处理流程，方便大家自己写程序的时候借鉴。 一、监听建立流程 整个建立监听socket到accept的过程如下图： 说明： 1.main里面调用ngx_init_cycle(src/core/ngx_cycle.c),ngx_init_cycle里面完成很多基本的配置，如文件，共享内存，socket等。 2.上图左上角是ngx_
Nginx负载均衡，动静分离，线程模型
weixin_43251629的博客
06-24 295
Nginx基础回顾 1.Nginx 是个高性能的HTTP和反向代理web服务器，核心特点是占有内存少，并发能力强。 2.支持50000个并发连接数，不仅如此，CPU和内存的占用也非常的低，10000个没有活动 的连接才占用2.5M的内存。 3.正向代理：在浏览器中配置代理服务器的相关信息，通过代理服务器访问目标网站，代理 服务器收到目标网站的响应之后，会把响应信息返回给我们浏览器的客户端。 4.反向代理：浏览器客户端发送请求到反向代理服务器（比如Nginx），由反向代理服务器选择原始 服务器提供
memcached多线程模型 & nginx 多进程模型
管子（zero）的杂乱空间
11-14 163
memcached和nginx的并发模型，一个是单进程多线程典范，一个是多进程单线程经典。通过对比来将加深一下对这两种并发模型的理解。 首先分析一下两者的应用场景。 共同点： 两个应用，一个是缓存服务，一个是web服务，都是连接暴多请求频繁，而且对响应时间比较敏感的的应用，在这一点上两者需求一样：大量请求，快速响应。服务端程序基本都这需求，逃也逃不掉。 不...
Nginx进程模型
sduihoal的博客
06-28 370
一、 Epoll多路复用 java bio模型，阻塞进程式 有发送缓冲区，当写的时候发送缓冲区被塞满，阻塞，要等到缓冲区传输完，才能直接返回。 linux select模型，变更触发轮询查找 等到发现100个连接有变化，遍历这个连接，找有变化的，说明有空间可以读或写。 epoll模型，变更触发 100个连接如果有变化，那么直接执行回调函数进行执行，不需要遍历这100个链接。 单线程且没有阻塞，这也是nginx具有高效I/O操作的原因。 二、master-worker进程模型 父子进程关系—— maste
NGINX系列之进程模型
魔幻世界
07-28 2996
在上一节中分析了nginx主流程，在mian函数中完成服务器的配置文件解析以及模块初始化工作后，根据系统设置进入单进程或者多进程模式，本文将分析nginx进程模型。 进程模型简介 在web服务中，随着用户基数增长，技术演进的趋势是提高系统的并发性和稳定性，一种方式是通过扩展机器的个数实现负载均衡，通过多台机器的量变引起质变，提高系统的并发性，显然这种方式资源利用率较低，成本较高；第二种方式...
nginx整体结构，进程模型
GATSBY1202的博客
10-22 614
nginx整体结构，进程模型 nginx关闭命令 总结： nginx是一种多进程的模型： 多线程模型的弊端：共享内存，如果某个线程报错会影响到其他线程
nginx进程模型
huyangyamin的专栏
11-11 693
进程交互模型图
nginx架构初探：多进程模型与进程管理
Worker 进程的个数是可以设置的，一般我们会设置与机器 cpu 核数一致，这里的原因与 Nginx 的进程模型以及事件处理模型是分不开的。 **Nginx 的进程模型** Nginx 的进程模型可以用下图来表示： * Master 进程：...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值
>