简介
- LVS是Linux Virtual Server的简写,意即Linux虚拟服务器,是一个虚拟的服务器集群系统。本项目在1998年5月由章文嵩博士成立,是中国国内最早出现的自由软件项目之一。
- LVS可以实现高可用的、可伸缩的Web、Mail、Cache、Media等网络服务。
- 最终目标是利用Linux操作系统和LVS集群软件实现一个高可用、高性能、低成本的服务器应用集群。
LVS集群的组成
- 前端 : 负载均衡层
- 由一台或多台负载调度器组成
- 中间 : 服务器群组层
- 由一组实际运行应用服务的服务器组成
- 底端 : 数据共享存储层
- 提供共享存储空间的存储区域
LVS术语
- Director Server : 调度器
- 将负载分发到Real Server的服务器
- Real Server : 真实服务器
- 真正提供应用服务的服务器
- VIP : 虚拟IP地址
- 公布给用户访问的虚拟IP地址
- RIP : 真实IP地址
- 集群节点上使用的IP地址
- DIP : 调度器连接节点服务器的IP地址
LVS工作模式
- NAT 模式
- 通过网络地址转换实现的虚拟服务器
- 大并发访问时,调度器的性能成为瓶颈
- DR 模式
- 优点 : 直接使用路由技术实现虚拟服务器
- 节点服务器需要配置VIP,注意MAC地址广播
调度算法
- LVS 目前实现了10种调度算法
- 常见的有4种算法
- 轮询(Round Robin) - rr
- 加权轮询(Weighted Round Robin) -wrr
- 最少连接(Least Connections) -lc
- 加权最少连接(Weighted Least Connection) -wlc
--------------------------------------------------------------------------------------------------
--------------------------------------------------------------------------------------------------
部署LVS
-
linux内核集成LVS
-
安装ipvsadm工具 设置 LVS
yum -y install ipvsadm
-
ipvsadm命令语法:
部署LVS-NAT集群
要求Web服务器80端口可正常访问.
Web服务器的网关设置为同网段 调度器的IP
实验为4台服务器:(后为IP地址)
客户一台.:1.1
调度器LVS一台 :1.2/2.2
Web两台:2.10/2.20 网关为2.2
-
确认调度器的路由转发功能
]# echo 1 > /proc/sys/net/ipv4/ip_forward ]# cat /proc/sys/net/ipv4/ip_forward 1 ]# echo "net.ipv4.ip_forward = 1" >> /etc/sysctl.conf #修改配置文件,设置永久规则
-
创建集群服务器
]# ipvsadm -A -t 192.168.1.2:80 -s wrr
-
添加真实服务器
]# ipvsadm -a -t 192.168.1.2:80 -r 192.168.2.10 -w 1 -m ]# ipvsadm -a -t 192.168.1.2:80 -r 192.168.2.20 -w 1 -m
查看规则列表,并保存规则
```bash
]# ipvsadm -Ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:Port Forward Weight ActiveConn InActConn
TCP 192.168.1.2:80 wrr
-> 192.168.2.10:80 Masq 1 0 0
-> 192.168.2.20:80 Masq 1 0 1
]# ipvsadm-save -n > /etc/sysconfig/ipvsadm.sav
-A -t 192.168.1.2:80 -s wrr
-a -t 192.168.1.2:80 -r 192.168.2.10:80 -m -w 1
-a -t 192.168.1.2:80 -r 192.168.2.20:80 -m -w 1
```
载入规则
-
LVS重启之后 配置会清空…
]# ipvsadm -Ln IP Virtual Server version 1.2.1 (size=4096) Prot LocalAddress:Port Scheduler Flags -> RemoteAddress:Port Forward Weight ActiveConn InActConn ]# ipvsadm-restore < /etc/sysconfig/ipvsadm.sav ]# ipvsadm -Ln IP Virtual Server version 1.2.1 (size=4096) Prot LocalAddress:Port Scheduler Flags -> RemoteAddress:Port Forward Weight ActiveConn InActConn TCP 192.168.6.22:80 wrr -> 192.168.6.14:80 Route 1 0 0 -> 192.168.6.15:80 Route 1 0 0 -> 192.168.6.16:80 Route 1 0 0 -> 192.168.6.17:80 Route 1 0 0 -> 192.168.6.18:80 Route 1 0 0
END~~可以用客户机测试了~
--------------------------------------------------------------------------------------------------
--------------------------------------------------------------------------------------------------
部署LVS-DR集群
-
使用LVS实现DR模式的集群调度服务器,为用户提供Web服务:
(以下为实验配置)- 客户端IP地址为192.168.6.11
- LVS调度器VIP地址为192.168.6.12
- LVS调度器DIP地址设置为192.168.6.22
- 真实Web服务器地址分别为192.168.6.14、192.168.6.15
-
说明:
-
CIP是客户端的IP地址;
-
VIP是对客户端提供服务的IP地址;
-
RIP是后端服务器的真实IP地址;
-
DIP是调度器与后端服务器通信的IP地址
- VIP必须配置在虚拟接口
-
-
设置调度服务器的VIP和DIP
注意:为了防止冲突,VIP必须要配置在网卡的虚拟接口!!!~]# cd /etc/sysconfig/network-scripts/ ~]# cp ifcfg-ens32{,:0} ~]# vim ifcfg-ens32:0 TYPE=Ethernet #网卡类型为:以太网卡 BOOTPROTO=none #none手动配置IP,或者dhcp自动配置IP NAME=ens32:0 #网卡名称 DEVICE=ens32:0 #设备名称 ONBOOT=yes #开机时是否自动激活该网卡 IPADDR=192.168.6.22 #IP地址 PREFIX=24 #子网掩码 ~]# systemctl restart network ~]# ifconfig ens32:0: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500 inet 192.168.6.22 netmask 255.255.255.0 broadcast 192.168.6.255 ether 00:0c:29:dc:f0:54 txqueuelen 1000 (Ethernet)
常见问题:RHEL7和Centos7系统中有两个管理网络的服务,有可能冲突?
解决方法:关闭NetworkManager服务后重启network即可。
-
web服务器配置VIP地址两台Web一模一样的做法
~]# cd /etc/sysconfig/network-scripts/ ~]# cp ifcfg-lo{,:0} ~]# vim ifcfg-lo:0 DEVICE=lo:0 IPADDR=192.168.6.22 NETMASK=255.255.255.255 NETWORK=192.168.6.22 BROADCAST=192.168.6.22 ONBOOT=yes NAME=lo:0 ~]# systemctl restart network
-
重点来了…地址冲突了,怎么办? 来~往下看
-
防止地址冲突的问题:
- 这里因为web服务器也配置与调度器一样的VIP地址,默认肯定会出现地址冲突;
- sysctl.conf文件写入这下面四行的主要目的就是访问192.168.4.15的数据包,只有调度器会响应,其他主机都不做任何响应,这样防止地址冲突的问题。
]# vim /etc/sysctl.conf #手动写入如下4行内容 net.ipv4.conf.all.arp_ignore = 1 net.ipv4.conf.lo.arp_ignore = 1 net.ipv4.conf.lo.arp_announce = 2 net.ipv4.conf.all.arp_announce = 2 #当有arp广播问谁是192.168.4.15时,本机忽略该ARP广播,不做任何回应 #本机不要向外宣告自己的lo回环地址是192.168.4.15 ]# sysctl -p #立即生效
-
配置LVS虚拟服务器
]# ipvsadm -C #清空所有之前的配置 ]# ipvsadm -A -t 192.168.6.22:80 -s wrr ]# ipvsadm -a -t 192.168.6.22:80 -r 192.168.6.14 ]# ipvsadm -a -t 192.168.6.22:80 -r 192.168.6.15 ]# ipvsadm-save -n /etc/sysconfig/ipvsadm #一定要记得保存 -A -t 192.168.6.22:80 -s wrr -a -t 192.168.6.22:80 -r 192.168.6.14:80 -g -w 1 -a -t 192.168.6.22:80 -r 192.168.6.15:80 -g -w 1
-
CIP测试结果:
[root@11 ~]# curl 192.168.6.22 This 15 [root@11 ~]# curl 192.168.6.22 This 14 [root@11 ~]#
用一句话看懂:↓↓↓↓↓↓↓↓↓
- LVS调度器
- 配置ens32(6.12)
- 配置ens32:0IP(6.22)------丨----这3个IP一样
- Web1配置
- ens32(6.14)
- lo:0(6.22)---------------------丨----这3个IP一样
- sysctl.conf防止冲突
- Web1配置
- ens32(6.15)
- lo:0(6.22)---------------------丨----这3个IP一样
- sysctl.conf防止冲突
动态检测脚本
LVS不带健康检查…一般配合keepalived使用…如不使用keepalived…可使用下列代码做健康检查
[root@proxy ~]# vim check.sh
#!/bin/bash
VIP=192.168.6.22:80
RIP1=192.168.6.14
RIP2=192.168.6.15
while :
do
for IP in $RIP1 $RIP2
do
curl -s http://$IP &>/dev/vnull
if [ $? -eq 0 ];then
ipvsadm -Ln |grep -q $IP || ipvsadm -a -t $VIP -r $IP
else
ipvsadm -Ln |grep -q $IP && ipvsadm -d -t $VIP -r $IP
fi
done
sleep 10
done