一,nginx服务器的web请求处理机制
从设计架构上来说,nginx服务器是与众不同的。不同之处一方面体现在它的模块化设计,另一方面体现在它对客户端请求的处理机制上。
web服务器和客户端是一对多的关系,web服务器必须有能力同时为多个客户端提供服务。一般来说,完成并行处理请求工作有三种方式可供选择:多进程方式、多线程方式和一步方式。
1,多进程方式
多进程方式是指,服务器每当接收到一个客户端时,就由服务器主进程生存一个子进程出来和该客户端建立连接进行交互,直到连接断开,该子进程就结束了。
多进程方式的优点在于,设计和实现相对简单,各个子进程之间相互独立,处理客户端请求的过程彼此不受到干扰,并且当一个子进程产生问题时,不容易将影响漫延 到其他进程中,这保证了提供服务的稳定性。当子进程退出时,其占用资源会被操作系统回收,在资源和时间上会产生一定的额外开销,因此,如果web服务器接受大量并发请求,就会对系统资源造成压力,导致系统性能下降。
初期的Apache服务器就是采用这种方式对外提供服务的。为了应对大量并发请求,Apache服务器采用预生成进程的机制对多进程方式进行了改造。预生成进程将生成子进程的时机提前,在客户端请求还没有到来之前就预先生成好,当请求到来时,主进程分配一个子进程和该客户端进行交互,交互完成之后,该进程也不结束,而被主进程管理起来等待下一个客户端请求的到来。改进的多进程方式在一定程度上缓解了大量并发请求情形下web服务器对系统资源造成的压力。但是由于Apache服务器在最初的架构设计上采用了多进程方式,因此这不能从根本上解决问题。
2,多线程方式
多线程方式和多进程方式相似,它是指,服务器每当接受到一个客户端时,会由服务器主进程派生一个线程出来和该客户端进行交互。
由于操作系统产生一个线程的开销远远小于产生一个进程的开销,所以多线程方式在很大程度上减轻了web服务器对系统资源的要求。该方式使用线程进行任务调度,开发方面可以遵循一定的标准,这相对来说比较规范和有利于协作。但在线程管理方面,该方式有一定的不足。多个线程位于同一个进程内,可以访问同样的内存空间,彼此之间相互影响;同时,在开发过程中不可避免地要由开发者自己对内存进行管理,其增加了出错的风险。服务器系统需要长时间连续不停地运转,操作的逐渐积累可能最终对整个服务器产生了重大影响。
iis服务器使用了多线程方式对外提供服务,它的稳定性相对来说还是不错的,但对于经验丰富的web服务器管理人员而言,他们通常还是会定期检查和重启服务器,以预防不可预料的故障发生。
3,异步方式
网络通信中的同步机制和异步机制是描述通信模式的概念。同步机制,是指发送方发送请求后,需要等待接收到接收方发回的响应后,才接着发送下一个请求;异步机制,和同步机制正好相反,在异步机制中,发送方发出一个请求后,不等待接收响应这个请求,就继续发送下个请求。在同步机制中,所有的请求在服务器端得到同步,发送方和接收方对请求的处理步调是一致的;在异步机制中,所有来自发送方的请求形成一个队列,接收方处理完成后通知发送方。
阻塞和非阻塞用来描述进程处理调用的方式,在网络通信中,主要指网络套接字socket的阻塞和非阻塞方式,而socket的实质也就是io操作。socket的阻塞调用方式为,调用结果放回之前,当前线程从运行状态被挂起,一直等到调用结果返回之后,才进入就绪状态,获取CPU后继续执行;socket的非阻塞调用方式和阻塞方式正好相反,在非阻塞方式中,如果调用结果不能马上返回,当前线程也不会被挂起,而是立即返回执行下一个调用。
同步阻塞方式,发送方向接收方发送请求后,一直等待响应;接收方处理请求时进行的io操作如果不能马上得到结果,就一直等到返回结果后,才响应发送方,期间不能进行其他工作。比如,在超市排队付账时,客户(发送方)向收款员(接收方)付款(发送请求)后需要等待收款员找零,期间不能做其他的事情;而收款员要等待收款机返回结果(io操作)后才能把零钱取出来交给客户(响应请求),期间也只能等待,不能做其他事情。这种方式实现简单,但是效率不高。
同步非阻塞方式,发送方向接收方发送请求后,一直等待响应;接收方处理请求时进行的io操作如果不能马上得到结果,就立即返回,去做其他事情,但由于没有得到请求处理结果,不响应发送方,发送方一直等待。一直到io操作完成后,接收方获得结果响应发送方后,接收方才进入下一次请求过程。在实际中不是用这种方式。
异步阻塞方式,发送方向接收方发送请求后,不用等待响应,可以接着进行其他工作;接收方处理请求时进行的io操作如果不能马上得到结果,就一直等待返回结果后,才响应发送方,期间不能进行其他工作。这种方式在实际中也不使用。
异步非阻塞方式,发送方向接收方发送请求后,不用等待响应,可以继续其他工作;接收方处理请求时进行的io操作如果不能马上得到结果,也不等待,而是马上返回去做其他事情。当io操作完成以后,将完成状态和结果通知接收方,接收方再响应发送方。继续使用在超市排队付账的例子。客户(发送方)向收款员(接收方)付款(发送请求)后在等待收款员找零的过程中,还可以做其他事情,比如打电话、聊天等;而收款员在等待收款机处理交易(io操作)的过程中可以帮助客户将商品打包,当收款机产生结果后,收款员给客户结账(响应请求)。在四种方式中,这种方式是发送方和接收方通信效率最高的一种。
4,nginx服务器如何处理请求
nginx服务器的一个显著优势是能够同时处理大量并发请求。它结合多进程机制和异步机制对外提供服务。异步机制使用的是异步非阻塞方式。
nginx服务器启动后,可以产生一个主进程(master process)和多个工作进程(worker process),其中可以在配置文件中指定产生的工作进程数量。nginx服务器的所有工作进程都用于接收和处理客户端的请求。这就类似于Apache使用的改进的多进程机制,预先生成多个工作进程,等待处理客户端请求。
每个工作进程使用了异步非阻塞方式,可以处理多个客户端请求。当某个工作进程接收到客户端的请求以后,调用io进行处理,如果不能立即得到结果,就去处理其他的请求;而客户端在此期间也无需等待响应,可以去处理其他的事情;当io调用返回结果时,就会通知此工作进程;该进程得到通知,暂时挂起当前处理的事物,去响应客户端请求。
客户端请求数量增长、网络负载繁重时,nginx服务器使用多进程机制能保证不增长对系统资源的压力;同时使用异步非阻塞方式减小了工作进程在io调用上的阻塞延迟,保证了不降低对请求的处理能力。
二,nginx服务器的事件驱动模型
事件驱动模型是nginx服务器保障完整功能和具有良好性能的重要机制之一。
nginx服务器响应和处理web请求的过程,是基于事件驱动模型的,事件驱动处理库又被称为多路io复用方法。
三,参考资料
《Nginx高性能Web服务器详解》