Nginx负载均衡算法分析

负载均衡就是将负载分摊到不同的服务单元，即可保证服务的可用性，又保证响应足够的快，给用户很好的体验，

nginx的负载均衡可以划分为两大类，内置策略和扩展策略。内置策略包括加权轮询和ip hash，在默认的情况下这两种策略会编译进nginx内核中，只需要在nginx中配置指明参数即可。

1.加权轮询

轮询的原理很简单，首先我们介绍一下轮询的基本流程。如下是处理一次请求的流程图：

图中有两点需要注意，第一，如果可以把加权轮询算法分为先深搜索和先广搜索，那么nginx采用的是先深搜索算法，即将首先将请求都分给高权重的机器，直到该机器的权值降到了比其他机器低，才开始将请求分给下一个高权重的机器；第二，当所有后端机器都down掉时，nginx会立即将所有机器的标志位清成初始状态，以避免造成所有的机器都处在timeout的状态，从而导致整个前端被夯住。

2. ip hash

ip hash是nginx内置的另一个负载均衡的策略，流程和轮询很类似，只是其中的算法和具体的策略有些变化，如下图所示：

3. fair

fair策略是扩展策略，默认不被编译进nginx内核。其原理是根据后端服务器的响应时间判断负载情况，从中选出负载最轻的机器进行分流。这种策略具有很强的自适应性，但是实际的网络环境往往不是那么简单，因此要慎用。

4. 通用hash、一致性hash

这两种也是扩展策略，在具体的实现上有些差别，通用hash比较简单，可以以nginx内置的变量为key进行hash，一致性hash采用了nginx内置的一致性hash环，可以支持memcache。

对上面的集中负载均衡算法进行测试（测试工具polygraph），考察下面三个关键的测试指标：

均衡性：是否能够将请求均匀的发送给后端

一致性：同一个key的请求，是否能落到同一台机器

容灾性：当部分后端机器挂掉时，是否能够正常工作