Nginx负载均衡问题(客户端请求与Nginx进程间负载均衡)

Nginx负载均衡问题(客户端请求与Nginx进程间负载均衡)

1. 简介

      在建立连接的时候，会涉及负载均衡问题。在多个子进程争抢处理一个新连接事件时，一定只有一个worker子进程最终会成功建立连接，随后，它会一直处理这个连接直到连接关闭。那么，如果有的子进程很“勤奋”，它们抢着建立并处理了大部分连接，而有的子进程则“运气不好”，只处理了少量连接，这对多核CPU架构下的应用很不利的，因为子进程之间应该是平等的，每个子进程应该尽量地独占一个CPU核心。子进程间负载不均衡，必然影响整个服务的性能。

2. Nginx如何解决客户端请求与Nginx进程间的负载均衡问题？

       与nginx惊群问题的解决方法一样，只有打开了accept_mutex锁，才能实现子进程间的负载均衡，同时post事件机制也是解决负载均衡问题的关键。可以参考前一篇文章http://blog.csdn.net/chenglinhust/article/details/9445175。

在ngx_event_accept方法建立新连接的过程中，初始化了一个全局变量ngx_accept_disabled。它就是负载均衡机制实现的关键阈值，实际上它就是一个整形数据，其定义（/src/event/ngx_event.c）：

ngx_int_t             ngx_accept_disabled;

初始化（sr/event/ngx_event_accept.c）是在函数ngx_event_accept中：

ngx_accept_disabled = ngx_cycle->connection_n / 8  - ngx_cycle->free_connection_n;

这样，在nginx启动的时候其实是个负值：-7/8 * ngx_cycle->connection_n。

依据这个值进行负载均衡的核心代码是在函数ngx_process_events_and_timers中（src/event/ngx.event.c）：

        if (ngx_accept_disabled > 0) {

            ngx_accept_disabled--;

        } else {

            //调用ngx_trylock_accept_mutex方法，尝试获取accept锁

            if (ngx_trylock_accept_mutex(cycle) == NGX_ERROR) {

                return;

            }

当ngx_accept_disabled 为负数时，不会触发nginx进行负载均衡操作，正常获取accept锁，试图处理新连接。

当ngx_accept_disabled 为正数时，就会触发nginx进行负载均衡操作。nginx做法很简单，就是当nginxngx_accept_disabled 为正数时，当前进程不再处理新连接事件，取而代之的仅仅是把变量ngx_accept_disabled 减一。

即，当当前使用的连接超过总连接数的7/8的时候才会被触发，值越大，表示负载越重。每次调用process_events的时候只会将 ngx_accept_disabled  减一，直到ngx_accept_disabled 降到0,即使用的连接数降到总连接数的7/8。这样就减少了该worker进程处理新连接的机会，这样其他较空闲的worker进程就有机会去处理更多的新连接，以达到整个web服务器的均衡效果。

Nginx默认将accept_mutex配置项设置为accept_mutex on。

参考来源：

1. 《深入理解Nginx模块开发与架构解析》

2.  http://my.csdn.net/xiajun07061225