互联网常见的负载均衡策略

互联网常见的负载均衡策略

负载均衡是我们对应高并发流量的一种常见处理方式

我们分两个方面来聊这个问题，一个是负载均衡的分类，一个是负载均衡的常见算法。

1，负载均衡的分类
基本我们可以分为客户端负载均衡和服务端负载均衡

服务端负载均衡，表示其负载均衡算法是在服务端实现的，比如我们常见的nginx，通过nginx我们可以来管理背后的多台tomcat服务器，从而实现多台tomcat服务共同对外提供服务的效果

客户端负载均衡：
就是表示其负载均衡算法是由调用者来维护，比如Dubbo的Proxy，SpringCloud的Ribbon，Feign

2，负载均衡的常见方式

1. 轮询

将请求按顺序轮流地分配到后端服务器上，它均衡地对待后端的每一台服务器，而不关心服务器实际的
连接数和当前的系统负载。

2. 随机

通过系统的随机算法，根据后端服务器的列表大小值来随机选取其中的一台服务器进行访问。由概率统计理论可以得知，随着客户端调用服务端的次数增多，其实际效果越来越接近于平均分配调用量到后端的每一台服务器，也就是轮询的结果。

3. 权重

即可以根据后台服务器的硬件差异，配置权重，让性能好的服务器多处理请求

4. 加权轮询法

不同的后端服务器可能机器的配置和当前系统的负载并不相同，因此它们的抗压能力也不相同。给配置高、负载低的机器配置更高的权重，让其处理更多的请；而配置低、负载高的机器，给其分配较低的权重，降低其系统负载，加权轮询能很好地处理这一问题，并将请求顺序且按照权重分配到后端。

5. 加权随机法

与加权轮询法一样，加权随机法也根据后端机器的配置，系统的负载分配不同的权重。不同的是，它是按照权重随机请求后端服务器，而非顺序。

6. 最小活跃数

根据服务器的压力，动态调整对请求的处理。
最小连接数算法比较灵活和智能，由于后端服务器的配置不尽相同，对于请求的处理有快有慢，它是根据后端服务器当前的连接情况，动态地选取其中当前积压连接数最少的一台服务器来处理当前的请求，尽可能地提高后端服务的利用效率，将负责合理地分流到每一台服务器。

7. ip_hash

根据客户端的ip地址做hash运算，找到对应的服务器进行处理。
源地址哈希的思想是根据获取客户端的IP地址，通过哈希函数计算得到的一个数值，用该数值对服务器列表的大小进行取模运算，得到的结果便是客服端要访问服务器的序号。采用源地址哈希法进行负载均衡，同一IP地址的客户端，当后端服务器列表不变时，它每次都会映射到同一台后端服务器进行访问。可作为分布式会话的解决方案之一。

8. 一致性hash

相同参数的请求总是发到同一提供者。

9. 自定义轮询算法

使用Ribbon自定义负载均衡算法。 extends AbstractLoadBalancerRule抽象类

public class UiLbRule extends AbstractLoadBalancerRule {

    //每个服务，访问5次，获取下一个服务。（3个,到头重新开始）
    private int total = 0;
    private int currentIndex = 0;

    public Server choose(ILoadBalancer lb, Object key) {
		// .........................
	}
}

类型：
DNS 方式实现负载均衡
硬件负载均衡：F5 和 A10

软件负载均衡：
Nginx 、 HAproxy 、 LVS 。其中的区别：
Nginx ：七层负载均衡，支持 HTTP、E-mail 协议，同时也支持 4 层负载均衡；
HAproxy ：支持七层规则的，性能也很不错。OpenStack 默认使用的负载均衡软件就是HAproxy；
LVS ：运行在内核态，性能是软件负载均衡中最高的，严格来说工作在三层，所以更通用一些，适用各种应用服务。