常见负载均衡与流量调度算法整理

概述

负载均衡和流量调度的目的是将任务在服务器集群中能够尽量均衡的处理，以高效地利用系统资源。通常集群由处理节点和均衡节点两类元素组成，处理节点将采集一些实时信息，如处理器的负载情况、网络中用户量、网络缓冲区及系统内存的可用大小、应用系统的负载等各种消息，并通过节点上专门的代理软件发送给均衡节点，均衡节点综合所有收到的信息后做出负载均衡策略。负载均衡的要点之一是节点的当前使用系统资源的情况。负载均衡系统要将系统中的资源使用情况能够相对均衡，需要掌握节点当前负载情况，并结合网络中当前资源使用情况及时对负载均衡策略进行动态调整，改变负载流量分布，这是负载均衡和流量调度的重点。

常见的流量调度算法

轮转调度（Round-Robin Scheduling）算法

轮转调度算法的原理是每次把来自用户的访问请求轮流发配给服务器，每个服务器轮转一遍，然后开始逐台服务器重新循环。

该算法是一种无状态的流量调度算法，不会考虑服务器实时负载情况等，因此当服务器群的各方面性能不一样时就不适合轮转调度算法，如果所有访问请求要求的服务时间相差较大时，就会造成服务器之间负载不均。因此该算法适用于所有服务器具有相同的软件及硬件性能，同时外部请求要求的服务时间相对均衡的情况。

加权轮转（Weighted Round Robin Scheduling）算法

本算法中将为服务器分配与自身性能相对应的权值，并向服务器分配与其权值相匹配的访问请求数量。在调度过程中，需要实时反馈服务器上的流量负载情况然后及时修改服务器的权值。
该算法虽然将服务器群软硬件性能不相同的情况考虑在内，但当用户发送的请求需要服务器处理的时间长短互不相同时，还是可能会造成网络中各节点流量负载不均衡的情况。

随机调度（Random Scheduling）算法

不考虑所有因素的情况下，把接收到的所有访问请求随机分配给各个服务器。随机调度算法非常简洁，能够减轻调度端的压力，但是可能会出现负载比较均衡的情况，也可能出现负载不均的情况，使得网络中负载情况比较随机。

最小连接调度（Least-Connection Scheduling）算法

最小连接数调度算法是一种动态算法，需要记录网络中所有正在工作的服务器的一些信息，这里是一个对当前服务器正在连接服务的用户数量的记录，并将其作为衡量网络中服务器当前正在负担的用户负载状况的依据，当负载均衡设备又接收到用户访问请求时，将根据实时记录将该请求分配到记录中连接数最少的服务器上，使得服务器能够及时处理请求，避免服务器超载。
适用场景：服务器处理性能相同时可达到均衡调度。否则，可能会造成性能低的服务器在未能处理完之前的请求时仍然不断收到新的请求，而性能高的服务器提前结束对访问的处理而处于空闲状态，降低了网络资源的利用率。

加权最小连接调度（Weighted Least-Connection Scheduling）算法

根据每一个服务器性能设置权值，服务器性能越高权值越高，调度过程中会根据服务器的负载状态动态地更改服务器的权值，这样较多的流量降会被分配给性能较高的服务器。

目标地址散列（Destination Hashing Scheduling）算法

由目标地址静态映射到网络中服务器的一种调度，对目标的IP地址采用散列函数映射到服务器上而进行的流量均衡的调度算法。其流量调度过程中，为均衡分配访问请求，采用散列函数的方法映射推送到服务器上。

目标地址散列调度（Source Hashing Scheduling）算法

与上者散列目标地址不同的是，该算法利用解析接收的用户报文中的源地址对请求进行映射。

基于局部性的最少连接调度（Locality-Based Least Connections Scheduling）算法

考虑到流量调度的就近访问方面，由最小连接调度算法引申出基于局部性的最少连接调度算法，最后将访问请求发送到该服务器上；若没有符合条件的服务器，则仍然按照最小连接算法进行流量调度。本算法能够在所有服务器负载几乎相同的情况下，根据上一次的调度情况，将具有相同的目标地址的请求分配到最近同一台有调度过的服务器上，因而能够有效实现对服务器的局部访问，大幅提高服务器的主存命中率。

带复制的基于局部性最少连接调度（Locality-Based Least Connections with Replication Scheduling）算法

为上面方法的改进，找到对应的服务器由一台变成了一组。本算法首先根据相同的目标IP映射的一组服务器，将访问请求分配给其中连接度最小且仍能接收流量的服务器上；若找到的服务器超载，那么将从所有服务器中重新选择一台连接度最小的服务器，将访问请求分配到该服务器上，并将其加入到服务器组。如果在一段时间内，服务器组都没有发生变化，那么就将连接度最高的服务器删除，来减少内容复制的程度。

响应速度调度（Response Time Scheduling）算法

响应速度调度算法中首先通过负载均衡设备发出一个探测请求给所有内部服务器，各台服务器会返回消息，最后将用户访问请求发送给 收到探测请求之后最早返回消息的服务器。

处理能力均衡调度（Processing Capacity Scheduling）算法

该算法会将服务器的处理能力和当前网络状况考虑在内，这样能有效提高负载均衡的效率，适合在应用层进行负载均衡的情况，但是也会增加网络的开销，因为负载均衡设备需要记录所有服务器的处理负荷，这一点可以通过服务器的硬件设备情况以及服务器当前的连接数等来衡量，将访问请求发送到记录中负荷最小的服务器上，从而实现网络中的负载均衡。

DNS均衡调度（DNS Scheduling）算法

在互联网中，包括HTTP等的访问请求，用户端都是通过DNS解析得到目标IP地址。在DNS均衡调度算法中，客户端将域名解析请求发送到不同区域中的负载均衡设备上，这些设别在收到请求后调用解析函数对目标域名进行解析，并将会得到本区域内的一个IP地址，然后将该IP地址返回给用户，用户在收到返回消息后，选择最高收到的解析的IP地址发送连接请求，丢弃其他的返回报文。本算法适用在较大范围内进行负载均衡，不适用于本地的负载均衡。