负载均衡原理最全详解(超详细)

负载均衡

负载均衡，全称是Load Balancing，很多时候我们简称“LB”，它可以在多个服务器、或其他资源之间，分配工作负载。

如下图所示：

通过增加服务器数量，比如：上图的tomcat-node1、tomcat-node2、tomcat-node3...等服务器。

然后通过Nginx负载均衡技术，来有提高系统的处理能力、和可靠性，这就是典型的负载均衡。

负载均衡原理

客户端的请求，首先到达负载均衡器，然后负载均衡器根据：调度算法，将请求分发到不同的服务器上。

如下图所示：

这里的“调度算法”，典型的有：轮询 (Round Robin)、加权轮询 (Weighted Round Robin)、最小连接数 (Least Connections)...等等。

轮询 (Round Robin)

轮询算法：是最简单的一种负载均衡算法，它将请求按顺序分配给每一个服务器，循环进行。

优点：

实现简单；适用于服务器性能相近的情况。

缺点：

未考虑服务器当前的负载和处理能力，不适用于服务器性能差异较大的场景。

应用：

适用于性能相近的服务器。

加权轮询 (Weighted Round Robin)

加权轮询算法：在轮询的基础上，为每个服务器分配一个权重，权重越高的服务器接收的请求越多。

如下图所示：

负载均衡器按照设定的权重值，将客户端的请求依次分发给后端服务器，权重大的服务器在每轮轮询中接收的请求更多。

还是，还是举一个例子：

• 服务器A的权重为5

• 服务器B的权重为3

• 服务器C的权重为2

在这种情况下，负载均衡器会按照以下顺序分发10个请求：A, A, A, A, A, B, B, B, C, C。

加权轮询，适用于以下场景：

系统中包含不同性能的服务器，需要根据其处理能力分配不同数量的请求。

最小连接数 (Least Connections)

优先将请求分配给当前连接数最少的服务器，适用于长连接应用。

如下图所示：

例如，假设有三台服务器A、B、C，当前连接数分别为3、5、2。

当一个新请求到达时，该请求将被分配给服务器C，因为它的活动连接数最少。

最少连接算法，适用于以下场景：

1. 长连接应用：如数据库连接、视频流媒体、聊天服务...等需要长时间保持连接的应用，在这些场景中，最少连接算法能较好地平衡负载；

2. 性能异构的服务器：当服务器性能差异不大，但负载波动较大时，最少连接算法能动态调整负载分配，避免某些服务器过载；

3. 需要高实时性负载均衡的应用：如实时游戏、在线交易......等需要快速响应的应用，通过最少连接算法能减少响应时间，提高用户体验。

IP哈希 (IP Hash)

IP哈希（IP Hash）是一种负载均衡算法，通过对客户端IP地址进行哈希运算，将请求分配到特定的服务器。

负载均衡器使用一个哈希函数，将客户端的IP地址转换为一个整数值，根据哈希值对服务器数量取模，将客户端请求分配给计算得到的服务器。

如下图所示：

假设有：三台服务器：Server A、Server B、Server C，客户端IP地址是：192.168.0.1。

假如，哈希函数计算结果是：12345。

取模运算：12345 % 3 = 0，故请求分配给Server A。

同一客户端IP地址的请求总是分配给相同的服务器，非常适合需要保持会话状态的应用。

负载均衡分类

负载均衡根据工作在网络协议栈中的不同层次，可以分为：二层（数据链路层）、三层（网络层）、四层（传输层），以及七层（应用层）负载均衡。

如下图所示：

1）二层负载均衡（数据链路层）

二层负载均衡工作在OSI模型的第二层，即数据链路层。

它通常基于MAC地址进行流量分发，利用交换机、或桥接器将数据包分发到不同的服务器。

主要用于小型局域网（LAN），在广域网（WAN）环境...中应用受限。

2）三层负载均衡（网络层）

三层负载均衡工作在OSI模型的第三层，即网络层，它基于IP地址进行流量分发。

3）四层负载均衡（传输层）

四层负载均衡工作在OSI模型的第四层，即传输层，它基于TCP/UDP协议，通过分析IP地址、和端口号进行流量分发。

常见的四层负载均衡器有：硬件设备（如F5）、和软件实现（如HAProxy）。

4）七层负载均衡（应用层）

七层负载均衡工作在OSI模型的第七层，即应用层，它基于HTTP/HTTPS等应用层协议，通过分析URL、Cookie、HTTP头信息等进行流量分发。

常见的七层负载均衡器有：Nginx、Apache、HAProxy......等。

每种负载均衡技术都有其特定的优势和局限性，选择适合的负载均衡方案需要根据具体的应用需求、网络环境和系统架构进行综合考虑。