配置LVS集群和10种调度算法

LVS集群服务

LVS概述及原理

LVS（Linux Virtual Server）即Linux虚拟服务器，LVS采用4层协议，而nginx负载均衡采用7层协议，LVS工作在内核空间，性能要高于nginx负载均衡。
LVS分为两部分组成：
Ipvsadm: 管理系统服务的命令行工具；
Ipvs:工作在内核空间，监控INPUT链的框架。
lvs本不做任何服务的解析只是通过ipvsadm命令执行调用内核空间里的ipvs，实现负载均衡的作用。

LVS简单原理说明：
当用户发送一个请求到LVS服务器时，这们称LVS服务器为director为负载均衡服务器，将请求转发到后端真正工作的服务器(realserver)，转发需要根据一定的标准，根据调度算法进行转发，并且一个调度器只为一个服务提供调度的功能。

LVS类型

NAT模式

基于NAT的LVS模式负载均衡

NAT（Network Address Translation）即网络地址转换，其作用是通过数据报头的修改，使得位于企业内部的私有IP地址可以访问外网，以及外部用用户可以访问位于公司内部的私有IP主机。LVS负载调度器可以使用两块网卡配置不同的IP地址，eth0设置为私钥IP与内部网络通过交换设备相互连接，eth1设备为外网IP与外部网络联通。

第一步：用户通过互联网DNS服务器解析到公司负载均衡设备上面的外网地址，相对于真实服务器而言，LVS外网IP又称VIP（Virtual IP Address），用户通过访问VIP，即可连接后端的真实服务器（Real Server），而这一切对用户而言都是透明的，用户以为自己访问的就是真实服务器，但他并不知道自己访问的VIP仅仅是一个调度器，也不清楚后端的真实服务器到底在哪里、有多少真实服务器。
第二步：用户将请求发送至124.126.147.168，此时LVS将根据预设的算法选择后端的一台真实服务器（192.168.0.1~192.168.0.3），将数据请求包转发给真实服务器，并且在转发之前LVS会修改数据包中的目标地址以及目标端口，目标地址与目标端口将被修改为选出的真实服务器IP地址以及相应的端口。

第三步：真实的服务器将响应数据包返回给LVS调度器，调度器在得到响应的数据包后会将源地址和源端口修改为VIP及调度器相应的端口，修改完成后，由调度器将响应数据包发送回终端用户，另外，由于LVS调度器有一个连接Hash表，该表中会记录连接请求及转发信息，当同一个连接的下一个数据包发送给调度器时，从该Hash表中可以直接找到之前的连接记录，并根据记录信息选出相同的真实服务器及端口信息。

遵循法则：

(1)集群节点跟director在同一网络中；
(2)rip通常是私有地址，仅用于各集群节点的通信；
(3)director位于client和realserver之间并负责处理进出的所有通信；
(4)realserver必须将网关指向DIP;
(5)支持端口映射；
(6)realserver可以使用任意操作系统；
(7)较大规模应用场景中，director 易成为操作系统的瓶颈；

DR模式

基于DR模式原理

在LVS（TUN）模式下，由于需要在LVS调度器与真实服务器之间创建隧道连接，这同样会增加服务器的负担。与LVS（TUN）类似，DR模式也叫直接路由模式，其体系结构如图4所示，该模式中LVS依然仅承担数据的入站请求以及根据算法选出合理的真实服务器，最终由后端真实服务器负责将响应数据包发送返回给客户端。与隧道模式不同的是，直接路由模式（DR模式）要求调度器与后端服务器必须在同一个局域网内，VIP地址需要在调度器与后端所有的服务器间共享，因为最终的真实服务器给客户端回应数据包时需要设置源IP为VIP地址，目标IP为客户端IP，这样客户端访问的是调度器的VIP地址，回应的源地址也依然是该VIP地址（真实服务器上的VIP），客户端是感觉不到后端服务器存在的。由于多台计算机都设置了同样一个VIP地址，所以在直接路由模式中要求调度器的VIP地址是对外可见的，客户端需要将请求数据包发送到调度器主机，而所有的真实服务器的VIP地址必须配置在Non-ARP的网络设备上，也就是该网络设备并不会向外广播自己的MAC及对应的IP地址，真实服务器的VIP对外界是不可见的，但真实服务器却可以接受目标地址VIP的网络请求，并在回应数据包时将源地址设置为该VIP地址。调度器根据算法在选出真实服务器后，在不修改数据报文的情况下，将数据帧的MAC地址修改为选出的真实服务器的MAC地址，通过交换机将该数据帧发给真实服务器。整个过程中，真实服务器的VIP不需要对外界可见。

遵循的法则：

(1)集群节点跟director必须在同一个物理网络中；
(2)rip可以使用公网地址，实现便捷远程管理监控；
(3)Director仅负责处理入站请求，响应报文则出realserver直接发往客户端；
(4)realserver不能将网关指向dip；
(5)不支持端口映射功能；

TUN(隧道模式)

原理：在LVS（NAT）模式的集群环境中，由于所有的数据请求及响应的数据包都需要经过LVS调度器转发，如果后端服务器的数量大于10台，则调度器就会成为整个集群环境的瓶颈。我们知道，数据请求包往往远小于响应数据包的大小。因为响应数据包中包含有客户需要的具体数据，所以LVS（TUN）的思路就是将请求与响应数据分离，让调度器仅处理数据请求，而让真实服务器响应数据包直接返回给客户端。其中，IP隧道（IP tunning）是一种数据包封装技术，它可以将原始数据包封装并添加新的包头（内容包括新的源地址及端口、目标地址及端口），从而实现将一个目标为调度器的VIP地址的数据包封装，通过隧道转发给后端的真实服务器（Real Server），通过将客户端发往调度器的原始数据包封装，并在其基础上添加新的数据包头（修改目标地址为调度器选择出来的真实服务器的IP地址及对应端口），LVS（TUN）模式要求真实服务器可以直接与外部网络连接，真实服务器在收到请求数据包后直接给客户端主机响应数据。
当用户发出请求报文，此时源ip为cip，目标ip为vip地址，将报文送达到director处，负载均衡服务器会根据某种调度算法匹配realserver，因为每台realserver和director不在同一个局域网当中，会根据一个连接封装另一个ip报文，另一个ip数据包的源地址为vip地址，目的地址为rip。
遵循的机制：

(1)集群节点可以跨越internet;
(2)rip必须是公网地址；
(3)director仅负责处理入站请求，响应报文则由realserver直接发往客户端；
(4)realserver网关不能指向director;
(5)只有支持隧道功能的操作系统才能用于realserver;
(6)不支持端口映射；

十种调度算法

静态调度方法

静态调度方法也称为固定调度方法，是在调度时不考虑当前服务器是否繁忙。
(1)轮询调度rr
轮询调度（Round Robin 简称’RR’）算法就是按依次循环的方式将请求调度到不同的服务器上，该算法最大的特点就是实现简单。轮询算法假设所有的服务器处理请求的能力都一样的，调度器会将所有的请求平均分配给每个真实服务器。
(2)加权轮询调度wrr（默认算法）
加权轮询（Weight Round Robin 简称’WRR’）算法主要是对轮询算法的一种优化与补充，LVS会考虑每台服务器的性能，并给每台服务器添加一个权值，如果服务器A的权值为1，服务器B的权值为2，则调度器调度到服务器B的请求会是服务器A的两倍。权值越高的服务器，处理的请求越多。
(3)源地址hash
源地址hash(source hash，简称为”sh”)算法主要是将来自同一个客户端请求发送至同一个realserver。算法先根据请求的源IP地址，作为散列键（Hash Key）从静态分配的散列表找出对应的服务器，若该服务器是可用的且并未超载，将请求发送到该服务器，否则返回空。它采用的散列函数与目标地址散列调度算法的相同，它的算法流程与目标地址散列调度算法的基本相似。
当客户端访问realserver时会先经过director，在director服务器中会有一张表，且记录着将访问realserver的记录转为hash值并明确指明是哪一个realserver，当下一次相同客户端访问时，会将请求发送至同一个realserver。sh调度方法会破坏负载均衡的实现效果，也会破坏完全公平队列的效果。

(4)目标地址散列调度
目标地址散列调度（Destination Hashing 简称’DH’）算法先根据请求的目标IP地址，作为散列键（Hash Key）从静态分配的散列表找出对应的服务器，若该服务器是可用的且并未超载，将请求发送到该服务器，否则返回空。
将对于同一个资源的请求给发向同一个服务器用于缓存服务器的场景。

动态调度方法

(1) LC最少连接
最小连接是计算当前后端realserver的活动连接和非活动连接数的总和来计算的。
调度算法：active*256+inactive(哪一个realerver的连接数少，会将新的连接请求发向哪一个realserver)
Active:活动连接数，当前服务器正在响应的连接数，会占用大内存；
Inactive:非活动连接数，只会保持当前的连接状态，占用很小的内存。
最小连接调度（Least Connections 简称’LC’）算法是把新的连接请求分配到当前连接数最小的服务器。最小连接调度是一种动态的调度算法，它通过服务器当前活跃的连接数来估计服务器的情况。调度器需要记录各个服务器已建立连接的数目，当一个请求被调度到某台服务器，其连接数加1；当连接中断或者超时，其连接数减1.

(2)加权最小连接
加权最少连接（Weight Least Connections 简称’WLC’）算法是最小连接调度的超集，各个服务器相应的权值表示其处理性能。服务器的缺省权值为1，系统管理员可以动态地设置服务器的权值。加权最小连接调度在调度新连接时尽可能使服务器的已建立连接数和其权值成比例。调度器可以自动问询真实服务器的负载情况，并动态地调整其权值
调度算法：(active*256+inactive)/weight

(3)最短期望延迟
最短的期望的延迟调度（Shortest Expected Delay 简称’SED’）算法基于WLC算法。举个例子吧，ABC三台服务器的权重分别为1、2、3 。那么如果使用WLC算法的话一个新请求进入时它可能会分给ABC中的任意一个。使用SED算法后会进行一个运算

A：（1+1）/1=2 B：（1+2）/2=3/2 C：（1+3）/3=4/3 就把请求交给得出运算结果最小的服务器
调度算法：(inactive+1)*256/weight
(4)永不排队
最少队列调度（Never Queue 简称’NQ’）算法，无需队列。如果有realserver的连接数等于0就直接分配过去，不需要在进行SED运算。
第一次先会给每一台ealserver发送一个请求，然后再根据权重来分配连接。
(5)LBLC(locality-based least-connection)基于本地的最少连接
(6)LBLCR:基于本地的带复制功能的最少连接