LVS—原理＋实战

破晓⁠

已于 2024-08-12 00:27:47 修改

阅读量860

点赞数 27

分类专栏：云原生文章标签： lvs github 运维网络 http linux

于 2024-08-10 22:57:13 首次发布

本文链接：https://blog.csdn.net/2301_77000936/article/details/141056260

版权

云原生专栏收录该内容

3 篇文章 0 订阅

订阅专栏

1.LVS的原理

1.1 LVS是什么

LVS（Linux Virtual Server），是一个极好的负载均衡解决方案，它将一个真实服务器集群虚拟成一台服务器来对外提供服务，同时在真实服务器集群中实现了负载均衡。该技术由章文嵩博士发起，从linux2.4开始已经被收录到linux核心中。

1.2 LVS的作用

随着互联网在人们生活中的普及，企业级应用迎来了海量数据的冲击，如微信、美团外卖、微信支付等应用每天的使用人数都在千万以上，仅靠单台机器提供服务已经行不通了。
我们可以使用多台服务器分摊这些压力，当一定数量的服务器作为一个整体对外提供服务，并且分摊压力时，我们可以称这些服务器为“负载均衡集群”。LVS就是一个优秀的负载均衡集群方案，它理论上能够无限水平扩展，使得服务能够应对海量数据的冲击。

1.3 LVS的关键术语

首先描述一下LVS中的一些术语：

VS：Virtual Server 虚拟服务器，通常是分发器，负责调度
RS：Real Server 实际提供服务器的真实服务器
CIP：Client IP 客户的客户端IP
VIP：Virtual Server IP 虚拟服务器的IP
RIP：Real Server IP 真实服务器的IP
DIP：Director IP 分发器的IP
CIP <–> VIP == DIP <–> RIP 客户端访问VIP，DIP将请求转发到RIP

2.LVS集群的类型

lvs-nat：修改请求报文的目标IP,多目标IP的DNAT
lvs-dr：操纵封装新的MAC地址
lvs-tun：在原请求IP报文之外新加一个IP首部
lvs-fullnat：修改请求报文的源和目标

2.1 nat模式原理及部署方法

Ivs-nat:

本质是多目标IP的DNAT，通过将请求报文中的目标地址和目标端口修改为某挑出的RS的RIP和PORT实现转发
RIP和DIP应在同一个IP网络，且应使用私网地址;RS的网关要指向DIP
请求报文和响应报文都必须经由Director转发，Director易于成为系统瓶颈
支持端口映射，可修改请求报文的目标PORT
VS必须是Linux系统，RS可以是任意OS系统

2.2 nat模式数据逻辑

在这里插入图片描述

客户端发送访问请求，请求数据包中含有请求来源（cip），访问目标地址（VIP）访问目标端口
VS服务器接收到访问请求做DNAT把请求数据包中的目的地由VIP换成RS的RIP和相应端口
RS1相应请求，发送响应数据包，包中的相应保温为数据来源（RIP1）响应目标（CIP）相应端口
VS服务器接收到响应数据包，改变包中的数据来源（RIP1–>VIP）,响应目标端口
VS服务器把修改过报文的响应数据包回传给客户端
lvs的NAT模式接收和返回客户端数据包时都要经过lvs的调度机，所以lvs的调度机容易阻塞

2.3 nat实验

2.3.1 环境部署

至少需要四台服务器

lvs服务器配置

双网卡
打开内核路由功能

vim  /etc/sysctl.conf  #在结尾添加
net.ipv4.ip_forward = 1

sysctl -p
net.ipv4.ip_forward = 1

两台webserver配置

配置网关
网关应为LVS服务器的DIP
打开两台服务器的httpd服务
最后LVS服务器进行连通性测试

curl 192.168.0.10
webserver1 - 192.168.0.10
curl 192.168.0.20
webserver2 - 192.168.0.20

lvs中安装lvs软件

2.3.2 配置命令

dnf install ipvsadm -y

在node1中添加调度策略

ipvsadm -A -t 172.25.254.100:80 -s rr 
ipvsadm -a -t 172.25.254.100:80 -r 192.168.0.10:80 -m
ipvsadm -a -t 172.25.254.100:80 -r 192.168.0.20:80 -m

查看策略

ipvsadm -Ln

保存规则

ipvsadm -Sn

删除所有规则

ipvsadm -Ln

以上操作均为临时，如果想开机启动

systemstl enable --now ipvsadm.service

测试

for N in {1..10}; do curl 172.25.254.100;done

修改为权重调用算法

ipvsadm -E -t 172.25.254.100:80 -s wrr
ipvsadm -e -t 172.25.254.100:80 -r 192.168.0.10:80 -m -w 2
ipvsadm -e -t 172.25.254.100:80 -r 192.168.0.10:80 -m -w 1
#测试效果
for in{1..10};do curl 172.25.254.100;done
webserver2 - 192.168.0.20
webserver1 - 192.168.0.10
webserver1 - 192.168.0.10
webserver2 - 192.168.0.20
webserver1 - 192.168.0.10
webserver1 - 192.168.0.10
webserver2 - 192.168.0.20
webserver1 - 192.168.0.10
webserver1 - 192.168.0.10
webserver2 - 192.168.0.20

2.4 DR模式

2.4.1 DR（Direct Routing）直接路由模式

DR模式工作的数据流向： Client–>PREROUTING —> INPUT(将CIP的MAT地址，改成CIP的MAT地址，（lvs在此强行改变数据流向)）—>ipvs（VIP的MAT地址转为RS的MAT地址）—>POSTROUTING—> RS—>lo—>eth0 -->CIP

客户端请求 VIP 时,通过因特网先到达调度器,调度器会根据调度算法将这个请求转发给真实的服务器,转发的过程中仅仅是修改了数据报文中的 MAC地址。当真实服务器接受到数据请求后进行处理,然后发送响应给客户端,但此时的源 IP 为真实的服务器 IP,即 RIP,目标 IP 为客户端 IP,即 CIP,但是客户端并没有请求RIP,所以客户端是不会接收数据响应,所以,就要修改源 IP 为 VIP,但是不可以将 VIP 设置在出口网卡上,否则会响应客户端的 arp 请求。失去了调度的意义,因此要在 lo 接口配置 VIP,并且将 VIP 隐蔽,即设置 NETMASK 为255.255.255.255,这样,数据响应从真实服务器出去的时候的源 IP 是 VIP,目的 IP 是 CIP,客户端就会接收次数据响应,从真实服务器到客户端是通过Internet。

DR 模式需要调度器与真实服务器在同一个物理网络。即通过交换机或者高速的HUB相连，中间没有隔有路由器。
VIP地址为调度器和服务器组共享，调度器配置的VIP地址是对外可见的，用于接收虚拟服务的请求报文。
所有的服务器把VIP地址配置在各自的Non-ARP网络设备上，它对外面是不可见的，只是用于处理目标地址为VIP的网络请求。
优点:性能最高
缺点:要求调度器的网卡必须与物理网卡在一个物理网段上

2.4.2 DR模式工作原理

在这里插入图片描述
（1）客户端发送请求被director接收后，director根据负载均衡算法改写数据帧的目标MAC地址为后端某RS的MAC地址，并将该数据包转发给该RS（实际上是往整个局域网发送，但只有该MAC地址的RS才不会丢弃）
（2）RS接收到数据包后，发现数据包的目标IP地址为VIP，而RS本身已经将VIP配置在了自身的某个接口上，因此RS会接收这个数据包并进行处理。
（3）处理完毕后，RS直接将响应报文响应给客户端。此时数据包源IP为VIP，目标IP为CIP。
DR模式时的基本属性和要求：

Realserver的RIP和Director的DIP必须处于同一网段中，以便使用MAC地址进行通信。
realserver上必须配置VIP地址，以便接收director转发过来的数据包，以及作为响应报文的源IP。
realserver响应给客户端的数据包的源和目的IP为VIP—>CIP
director只处理入站请求，响应请求由realserver完成。

2.5 DR模式实战

2.5.1 环境准备

主机名	ip	vip	角色
client	172.25.254.10 VMware NAT	null	测试主机
router	NAT-eth0：172.25.254.100，仅主机-eth1:192.168.0.10	null	路由器
lvs	192.168.0.200, GW 192.168.0.10 仅主机	lo:192.168.0.100	调度器
RS1	192.168.0.10, GW 192.168.0.10 仅主机	lo; 192.168.0.100	webserver1
RS2	192.168.0.20， GW 192.168.0.10 仅主机	lo; 192.168.0.100	webserver2

2.5.2 配置命令

配置要点
1.Director服务器采用双IP桥接网络，一个是VIP，一个DIP
2.Web服务器采用和DIP相同的网段和Director连接
3.每个Web服务器配置VIP
4.每个web服务器可以出外网

#在客户端主机中为nat模式网卡
[root@client ~]# vim/etc/NetworkManager/system-connections/eth0.nmconnection [connection]
id=eth0
type=ethernet
interface-name=eth0
[ipv4]
method=manual
address1=172.25.254.10/24,172.25.254.100
[root@client ~]# route  -n

#在路由主机中设定双网卡，eth0为nat网卡，eth1为仅主机网卡
#对于eth0的设定
[root@DR-server ~]# vim /etc/NetworkManager/system-connections/eth0.nmconnection
[connection]
id=eth0
type=ethernet
interface-name=eth0
[ipv4]
method=manual
address1=172.25.254.100/24
   
#对于eth1的设定
[root@DR-server ~]# vim /etc/NetworkManager/system-connections/eth1.nmconnection [connection]
id=eth1
type=ethernet
interface-name=eth1
[ipv4]
method=manual
address1=192.168.0.10/24

#对于dr调度器设定网卡为仅主机模式
[root@dr-server ~]# vim /etc/NetworkManager/system-connections/eth0.nmconnection [connection]
id=eth0
type=ethernet
interface-name=eth0
[ipv4]
method=manual
address1=192.168.0.200/24,192.168.0.10

#对于RS1的设定网卡为仅主机模式
[root@webserver1 ~]# cat /etc/NetworkManager/system-connections/eth0.nmconnection [connection]
id=eth0
type=ethernet
interface-name=eth0
[ipv4]
method=manual
address1=192.168.0.101/24,192.168.0.10

#对于RS2中的网络设定
[root@webserver2 ~]# cat /etc/NetworkManager/system-connections/eth0.nmconnection [connection]
id=eth0
type=ethernet
interface-name=eth0
[ipv4]
method=manual
address1=192.168.0.102/24,192.168.0.10

确保每台主机ping都可以互相通信

在RS1和RS2中解决响应问题
[root@rs1 ~]# echo 1 > /proc/sys/net/ipv4/conf/all/arp_ignore [root@rs1 ~]# echo 1 > /proc/sys/net/ipv4/conf/lo/arp_ignore [root@rs1 ~]# echo 2 > /proc/sys/net/ipv4/conf/lo/arp_announce [root@rs1 ~]# echo 2 > /proc/sys/net/ipv4/conf/all/arp_announce
[root@rs2 ~]# echo 1 > /proc/sys/net/ipv4/conf/all/arp_ignore
[root@rs2 ~]# echo 1 > /proc/sys/net/ipv4/conf/lo/arp_ignore
[root@rs2 ~]# echo 2 > /proc/sys/net/ipv4/conf/lo/arp_announce
[root@rs2 ~]# echo 2 > /proc/sys/net/ipv4/conf/all/arp_announce
在lvs中配置策略
[root@lvs ~]# ipvsadm -A -t 192.168.0.100:80 -s wrr
[root@lvs ~]# ipvsadm -a -t 192.168.0.100:80 -r 192.168.0.101:80 -g [root@lvs ~]# ipvsadm -a -t 192.168.0.100:80 -r 192.168.0.102:80 -g

2.5.3 测试效果

[root@node10 ~]# for N in {1..6};do curl 192.168.0.100;done
RS2 server - 192.168.0.20
RS1 server - 192.168.0.10
RS2 server - 192.168.0.20
RS1 server - 192.168.0.10
RS2 server - 192.168.0.20
RS1 server - 192.168.0.10

3.LVS的部署命令介绍

3.1 lvs软件相关信息

程序包：ipvsadm
Unit File: ipvsadm.service
主程序：/usr/sbin/ipvsadm
规则保存工具：/usr/sbin/ipvsadm-save
规则重载工具：/usr/sbin/ipvsadm-restore
配置文件：/etc/sysconfig/ipvsadm-config
ipvs调度规则文件：/etc/sysconfig/ipvsadm

3.2 ipvsadm命令

核心功能:

集群服务管理:增、删、改
集群服务的RS管理:增、删、改
查看

命令参数

管理集群服务
ipvsadm -A|E -t（tcp）|u（udp）|f（防护墙标签） \
 service-address(集群地址) \
 [-s scheduler(调度算法)] \
 [-p [timeout]] \
 [-M netmask] \
 [--pepersistence_engine] \
 [-b sched-flags]
 ipvsadm -D -t|u|f service-address 删除
ipvsadm –C 清空
ipvsadm –R 重载
ipvsadm -S [-n] 保存
管理集群中的real server
 ipvsadm -a|e -t|u|f service-address -r server-address [-g | -i| -m](工作模式) [-w 
weight](权重)
 ipvsadm -d -t|u|f service-address -r server-address 删除RS
 ipvsadm -L|l [options]                  
查看rs
ipvsadm -Z [-t|u|f service-address]     
清楚计数器

3.3 集群中的增删改

1.管理集群服务中的增删改
ipvsadm -A|E -t|u|f service-address [-s scheduler] [-p [timeout]]
-A #添加
-E #修改
-t #tcp服务
-u #udp服务
-s #指定调度算法，默认为WLC
-p #设置持久连接超时，持久连接可以理解为在同一个时间段同一个来源的请求调度到同一Realserve
r-f #firewall mask 火墙标记，是一个数字

#增加
[root@DR-server ~]# ipvsadm -A -t 172.25.254.100:80 -s rr
 [root@DR-server ~]# ipvsadm -A  -f 66  -p 3000
 #修改
[root@DR-server ~]# ipvsadm -E -t 172.25.254.100:80  -s wrr -p 3000
 #删除
[root@DR-server ~]# ipvsadm -D -t 172.25.254.100:80
 [root@DR-server ~]# ipvsadm -D -f 66

2.管理集群中RealServer的增删改
ipvsadm -a|e -t|u|f service-address -r realserver-address [-g|i|m] [-w weight]

-a      #添加realserver
-e       #更改realserver
-t       #tcp协议
-u      #udp协议
-f      #火墙 标签
-r      #realserver地址
-g      #直连路由模式
-i      #ipip隧道模式
-m      #nat模式
-w      #设定权重
-Z      #清空计数器
-C      #清空lvs策略
-L      #查看lvs策略
-n      #不做解析--rate ：输出速率信息

#添加
[root@DR-server ~]# ipvsadm -a -t 172.25.254.100:80 -r 192.168.0.30 -m
 [root@DR-server ~]# ipvsadm -a -t 172.25.254.100:80 -r 192.168.0.40 -m -w 2
 #更改
[root@DR-server ~]# ipvsadm -e -t 172.25.254.100:80 -r 192.168.0.30 -m -w 1
 [root@DR-server ~]# ipvsadm -e -t 172.25.254.100:80 -r 192.168.0.30 -i -w 1
 #删除
[root@DR-server ~]# ipvsadm -d -t 172.25.254.100:80 -r 192.168.0.30

4.LVS的调度算法

4.1 lvs调度算法类型

ipvs scheduler:根据其调度时是否考虑各RS当前的负载状态被分为两种:静态方法和动态方法
静态方法:仅根据算法本身进行调度，不考虑RS的负载情况
动态方法:主要根据每RS当前的负载状态及调度算法进行调度Overhead=value较小的RS将被调度

4.2 lvs静态调度算法

1、RR:roundrobin 轮询 RS分别被调度，当RS配置有差别时不推荐

2、WRR:Weighted RR，加权轮询根据RS的配置进行加权调度，性能差的RS被调度的次数少

3、SH:Source Hashing，实现session sticky，源IP地址hash;将来自于同一个IP地址的请求始终发往第一次挑中的RS，从而实现会话绑定

4、DH:Destination Hashing;目标地址哈希，第一次轮询调度至RS，后续将发往同一个目标地址的请求始终转发至第一次挑中的RS，典型使用场景是正向代理缓存场景中的负载均衡，如:宽带运营商

4.3 lvs动态调度算法

主要根据RS当前的负载状态及调度算法进行调度Overhead=value较小的RS会被调度
1、LC:least connections(最少链接发)
适用于长连接应用Overhead(负载值)=activeconns(活动链接数) x 256+inactiveconns(非活动链接数)

2、WLC:Weighted LC(权重最少链接) 默认调度方法Overhead=(activeconns x 256+inactiveconns)/weight

3、SED:Shortest Expection Delay, 初始连接高权重优先Overhead=(activeconns+1+inactiveconns) x 256/weight 但是，当node1的权重为1，node2的权重为10，经过运算前几次的调度都会被node2承接

4、NQ:Never Queue，第一轮均匀分配，后续SED

5、LBLC:Locality-Based LC，动态的DH算法，使用场景:根据负载状态实现正向代理

6、LBLCR:LBLC with Replication，带复制功能的LBLC，解决LBLC负载不均衡问题，从负载重的复制到负载轻的RS

4.4 在4.15版本内核以后新增调度算法

1.FO(Weighted Fai Over)调度算法:常用作灰度发布

在此FO算法中，遍历虚拟服务所关联的真实服务器链表，找到还未过载(未设置IP_VS_DEST_F OVERLOAD标志)的且权重最高的真实服务器，进行调度
当服务器承接大量链接，我们可以对此服务器进行过载标记(IP_VS_DEST_F OVERLOAD)，那么vs调度器就不会把链接调度到有过载标记的主机中。

2.OVF(Overflow-connection)调度算法

基于真实服务器的活动连接数量和权重值实现。将新连接调度到权重值最高的真实服务器，直到其活动连接数量超过权重值，之后调度到下一个权重值最高的真实服务器,在此OVF算法中，遍历虚拟服务相关联的真实服务器链表，找到权重值最高的可用真实服务器。一个可用的真实服务器需要同时满足以下条件:

未过载(未设置IP_VS_DEST_F OVERLOAD标志)
真实服务器当前的活动连接数量小于其权重值
其权重值不为零

5 防火墙标签解决轮询错误

5.1 轮询规则中可能会遇到的错误

以http和https为例，当我们在RS中同时开放80和443端口，那么默认控制是分开轮询的，这样我们就出现了一个轮询错乱的问题

当我第一次访问80被轮询到RS1后下次访问443仍然可能会被轮询到RS1上

问题呈现

在RS1和RS2中安装mod_ssl并重启apache 
]# yum install mod_ssl -y
]# systemctl restart httpd

在lvs中设置调度，因为我们要调度80和443两个端口所以我们需要设定两组策略
]# ipvsadm -C
[root@lvs ~]# ipvsadm -A -t 192.168.0.100:80 -s rr
[root@lvs ~]# ipvsadm -A -t 192.168.0.100:443 -s rr
[root@lvs ~]# ipvsadm -a -t 192.168.0.100:80 -r 192.168.0.101:80 -g [root@lvs ~]# ipvsadm -a -t 192.168.0.100:80 -r 192.168.0.102:80 -g [root@lvs ~]# ipvsadm -a -t 192.168.0.100:443 -r 192.168.0.102:80 -g [root@lvs ~]# ipvsadm -a -t 192.168.0.100:443 -r 192.168.0.101:80 -g [root@lvs ~]# ipvsadm -Ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  -> RemoteAddress:Port
TCP  192.168.0.100:80 rr
  -> 192.168.0.101:80
  -> 192.168.0.102:80
TCP  192.168.0.100:443 rr
  -> 192.168.0.101:443
  -> 192.168.0.102:443
测试问题
Forward Weight ActiveConn InActConn
Route   1      0          0
Route   1      0          0
Route   1      0          0
Route   1      0          0
[root@node10 ~]# curl http://192.168.0.100;curl -k https://192.168.0.100 
RS1 server - 192.168.0.10
RS1 server - 192.168.0.10
当访问vip时两次调度都到了

解决办法
LVS中为同一IP的不同端口打上同一个标签，使其成为一个整体

[root@lvs ~]# iptables -t mangle -A PREROUTING -d 192.168.0.200 -p tcp -m multiport --dports 80,443 -j MARK --set-mark 66

清除之前的策略，设定新的调度规则

[root@lvs ~]# ipvsadm -C
[root@lvs ~]# ipvsadm -Ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  -> RemoteAddress:Port           Forward Weight ActiveConn InActConn
[root@lvs ~]# ipvsadm -A -f 66 -s rr
[root@lvs ~]# ipvsadm -a -f 66 -r 192.168.0.10 -g
[root@lvs ~]# ipvsadm -a -f 66 -r 192.168.0.20 -g

测试

[root@client ~]# curl 192.168.0.200;curl -k https://192.168.0.200
webserver2 - 192.168.0.20
webserver1 - 192.168.0.10

5.2 lvs持久链接

在我们客户上网过程中有很多情况下需要和服务器进行交互，客户需要提交响应信息给服务器，如果单纯的进行调度会导致客户填写的表单丢失，为了解决这个问题我们可以用sh算法，但是sh算法比较简单粗暴，可能会导致调度失衡
解决方案
在进行调度时，不管用什么算法，只要相同源过来的数据包我们就把他的访问记录在内存中，也就是把这个源的主机调度到了那个RS上
如果在短期(默认360S)内同源再来访问我仍然按照内存中记录的调度信息，把这个源的访问还调度到同一台RS上。
如果过了比较长的时间(默认最长时间360s)同源访问再次来访，那么就会被调度到其他的RS上

[root@lvs ~]# ipvsadm -E -f 66 -s rr -p 3000
[root@lvs ~]# ipvsadm -Ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  -> RemoteAddress:Port           Forward Weight ActiveConn InActConn
FWM  66 rr persistent 3000
  -> 192.168.0.10:0               Route   1      0          0
  -> 192.168.0.20:0               Route   1      0          0

破晓⁠

关注

27
点赞
踩
19

收藏

觉得还不错? 一键收藏
打赏
0
评论
LVS—原理＋实战

程序包：ipvsadm主程序：/usr/sbin/ipvsadm规则保存工具：/usr/sbin/ipvsadm-save规则重载工具：/usr/sbin/ipvsadm-restore配置文件：/etc/sysconfig/ipvsadm-configipvs调度规则文件：/etc/sysconfig/ipvsadm。
复制链接

扫一扫