为啥 Nginx 能轻松淦到几万并发？

前言

Nginx以其高性能，稳定性，丰富的功能，简单的配置和低资源消耗而闻名。本文了解一下 Nginx为什么这么快！

Nginx 的进程模型

Nginx 服务器，正常运行过程中：

1. 多进程：一个Master进程，多个Worker进程。
2. Master进程：管理Worker进程。
   • 对外接口：接收外部的操作（信号）。
   • 对内转发：根据外部操作的不同，根据信号管理Worker。
   • 监控：监控Worker进程的运行状态，Worker进程异常终止后，自动重启Worker进程。
3. Worker进程：所有的Worker进程都是平等的。
   • 实际处理：网络请求，由Worker进程处理。
   • Worker进程数量：在nginx.conf中配置，一般设置为核心数，充分利用CPU资源，同时避免进程数量过多，避免进程竞争CPU资源，增加上下文切换的损耗。
     

HTTP 连接建立和请求处理过程

HTTP 连接建立和请求处理过程如下：

• Nginx启动时，Master进程，加载配置文件。
• Master进程，初始化监听的Socket。
• Master进程，Fork出多个Worker进程。
• Worker进程，竞争新的连接，获胜方通过三次握手，建立Socket连接，并处理请求。

Nginx 高性能、高并发

Nginx 为什么拥有高性能并且能够支撑高并发？

• Nginx采用多进程+异步非阻塞的方式（IO多路复用Epoll）。
• 请求的完整过程：建立连接→读取请求→解析请求→处理请求→响应请求。
• 请求的完整过程对应到底层就是：读写 Socket 事件。

Nginx 的事件处理模型

Request：Nginx 中 HTTP 请求。

基本的 HTTP Web Server 工作模式：

1. 接收请求：逐行读取请求行和请求头，判断有请求体后，读取请求体。
2. 处理请求。
3. 返回响应：根据处理结果，生成相应的 HTTP 请求（响应行、响应头、响应体）。

Nginx 也是这个套路，整体流程一致：

模块化体系结构

Nginx 的模块根据其功能基本上可以分为以下几种类型：

1. event module：搭建了独立于操作系统的事件处理机制的框架，及提供了各具体事件的处理。包括 ngx_events_module，ngx_event_core_module 和 ngx_epoll_module 等。

Nginx 具体使用何种事件处理模块，这依赖于具体的操作系统和编译选项。

2. phase handler：此类型的模块也被直接称为 handler 模块。主要负责处理客户端请求并产生待响应内容，比如 ngx_http_static_module 模块，负责客户端的静态页面请求处理并将对应的磁盘文件准备为响应内容输出。
3. output filter：也称为 filter 模块，主要是负责对输出的内容进行处理，可以对输出进行修改。

例如，可以实现对输出的所有 html 页面增加预定义的 footbar 一类的工作，或者对输出的图片的 URL 进行替换之类的工作。

4. upstream：upstream 模块实现反向代理的功能，将真正的请求转发到后端服务器上，并从后端服务器上读取响应，发回客户端。

upstream 模块是一种特殊的 handler，只不过响应内容不是真正由自己产生的，而是从后端服务器上读取的。

5. load-balancer：负载均衡模块，实现特定的算法，在众多的后端服务器中，选择一个服务器出来作为某个请求的转发服务器。

常见问题剖析

Nginx vs Apache

Nginx：

• IO 多路复用，Epoll（freebsd 上是 kqueue）

• 高性能

• 高并发

• 占用系统资源少

Apache：

• 阻塞+多进程/多线程

• 更稳定，Bug 少

• 模块更丰富

场 景：

处理多个请求时，可以采用IO多路复用或者阻塞IO+多线程

• IO多路复用：一个线程，跟踪多个socket状态，那个就绪，就读写那个。
• 阻塞IO+多线程：每一个请求，新建一个服务线程。

思考：IO 多路复用 和 多线程 的适用场景？

IO 多路复用：单个连接的请求处理速度没有优势，适合 IO 密集型 场景，事件驱动

• 大并发量：只使用一个线程，处理大量的并发请求，降低上下文环境切换损耗，也不需要考虑并发问题，相对可以处理更多的请求；
• 消耗更少的系统资源（不需要线程调度开销）
• 适用于长连接的情况（多线程模式长连接容易造成线程过多，造成频繁调度）

阻塞IO + 多线程：实现简单，可以不依赖系统调用，适合 CPU 密集型 场景

• 每个线程，都需要时间和空间；
• 线程数量增长时，线程调度开销指数增长

Nginx 最大连接数

基础背景：

• Nginx是多进程模型，Worker进程用于处理请求。
• 单个进程的连接数（文件描述符fd），有上限（nofile）：ulimit -n。
• Nginx 上配置单个 Worker 进程的最大连接数：worker_connections 上限为 nofile。
• Nginx 上配置 Worker 进程的数量：worker_processes。

因此，Nginx 的最大连接数：

• Nginx 的最大连接数：Worker 进程数量 x 单个 Worker 进程的最大连接数。
• 上面是 Nginx 作为通用服务器时，最大的连接数。
• Nginx 作为反向代理服务器时，能够服务的最大连接数：（Worker 进程数量 x 单个 Worker 进程的最大连接数）/ 2。
• Nginx 反向代理时，会建立 Client 的连接和后端 Web Server 的连接，占用 2 个连接。

Nginx 的并发处理能力

关于 Nginx 的并发处理能力：并发连接数，一般优化后，峰值能保持在 1~3w 左右。（内存和 CPU 核心数不同，会有进一步优化空间）。