文章目录
前言
上一次简单介绍了一下负载均衡的工作模式分类,今天介绍其中的DR模式和Keepalived高可用,也就是热备
一、LVS-DR介绍
1.1 LVS-DR数据包流向分析
为方便进行原理分析,将Client与群集机器放在同一网络中,数据包流经的路线为1-2-3-4
1.Client向目标VIP发出请求,Director(负载均衡器)接收
- IP包头及数据帧信息
2 .Director根据负载均衡算法选择 Realserver_1,不修改也不封装IP报文,而是将数据帧的MAC地址改为RealServer_1的MAC地址,然后在局域网上发送。
- IP包头及数据帧头信息如下:
3.RealServer_1收到这个帧,解封装后发现目标IP与本机匹配( RealServer事先绑定了VIP),于是处理这个报文。随后重新封装报文,发送到局域网。
- 此时IP包头及数据帧头信息为:
4.Client将收到回复报文。Client认为得到正常的服务,而不会知道是哪一台服务器处理的
注意:如果跨网段,则报文通过路由器经由Internet返回给用户
1.2 LVS-DR中的ARP问题
在LVS-DR负载均衡集群中,负载均衡器与节点服务器都要配置相同的VIP地址
在局域网中具有相同的IP地址,势必会造成各服务器ARP通信的紊乱
- 当ARP广播发送到LVS-DR集群时,因为负载均衡器和节点服务器都是连接到相同的网络上,它们都会接收到ARP广播
- 只有前端的负载均衡器进行响应,其他节点服务器不应该响应ARP广播
对节点服务器进行处理,使其不响应针对VIP的ARP请求
- 使用虚接口lo:0承载VIP地址
- 设置内核参数arp_ignore=1:系统只响应目的IP为本地IP的ARP请求
RealServe返回报文(源IP是VIP)经路由器转发,在重新封装报文时需要先获取路由器的MAC地址
发送ARP请求时, Linux默认使用IP包的源IP地址(即VIP)作为ARP请求包中的源IP地址,而不使用发送接口(例如ens33)的IP地址
路由器收到ARP请求后,将更新ARP表项
原有的VIP对应 Director的MAC地址会被更新为ⅥP对应RealServer的MAC地址
此时新来的请求报文,路由器根据ARP表项,会将该报文转发给RealServer,从而导致 Director的VIP失效
解决方法
- 对节点服务器进行处理,设置内核参数arp_announce=2:系统不使用IP包的源地址来设置ARP请求的源地址,而选择发送接口的IP地址
修改/etc/sysctl.conf文件
'对节点服务器进行处理,使其不响应针对VIP的ARP请求'
net.ipv4.conf.lo.arp_ignore = 1
net.ipv4.conf.lo.arp_announce = 2
'系统不使用IP包的源地址来设置ARP请求的源地址,而选择发送接口的IP地址'
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2
二、Keepalived高可用
2.1 Keepalived工具介绍
专为LVS和HA设计的一款健康检查工具
- 支持故障自动切换( Failover)
- 支持节点健康状态检查( Health Checking)
- 官方网站http://www.keepalived.org
2.2 Keepalived实现原理剖析
Keepalived采用VRRP热备份协议实现Linux服务器的多机热备功能
VRRP(虚拟路由冗余协议)是针对路由器的一种备份解决方案
- 由多台路由器组成一个热备组,通过共用的虚拟IP地址对外提供服务
- 每个热备组内同一时刻只有一台主路由器提供服务,其他路由器处于冗余状态
- 若当前在线的路由器失效,则其他路由器会根据设置的优先级自动接替虚拟IP地址,继续提供服务
2.3 Keepalived简图
- Keepalived可实现多机热备,每个热备组可有多台服务器
- 双机热备的故障切换是由虚拟IP地址的漂移来实现,适用于各种应用服务器
2.4 Keepalived master服务器配置解析
Keepalievd配置目录位于/etc/keepalievd/
keepalievd.conf是主配置文件
- global_defs{…}区段指定全局参数
- vrrp_instance实例名称{…}区段指定VRRP热备参数
- 注释文字以“!”符号开头
- 目录samples/,提供了许多配置样例作为参考
常用配置选项
- router_id HA_TEST_R1: 本路由器(服务器)的名称
- vrrp_instance VI_1:定义VRRP热备实例
- state MASTER:热备状态,MASTER表示主服务器
- interface ens33:承载VIP地址的物理接口
- virtual_router_id 1:虚拟路由器的ID号,每个热备组保持一致
- priority 100:优先级,数值越大优先级越高
- advert_int 1:通告间隔秒数(心跳频率)
- auth_type PASS:认证类型
- auth_pass 123456:密码字串
- virtual_ipaddress{vip}:指定漂移地址(VIP),可以有多个,多个漂移地址以逗号分隔
2.5 Keepalived slave服务器配置解析
Keepalived备份服务器的配置与master的配置有三个选项不同
- router_id:设为自由名称
- state:设为BACKUP
- priority:值低于主服务器
其他选项与master相同
2.6 Keepalived的优势
Keepalived的设计目标是构建高可用的LVS负载均衡群集,可以调用ipvsadm工具来创建虚拟服务器、管理服务器池,而不仅仅用作双机热备
使用Keepalived构建LVS群集更加简便易用
主要优势
- 对LVS负载调度器实现热备切换,提高可用性
- 对服务器池中的节点进行健康检查,自动移除失效节点,恢复后再重新加入
三、LVS-DR+Keepalived搭建
3.1 实验环境
3.2 DR调度服务器配置
两台LVS服务器开启路由转发,关闭重定向
[root@lvm-master ~]# yum install keepalived ipvsadm -y '安装软件包'
[root@lvm-master ~]# vim /etc/sysctl.conf
......
net.ipv4.ip_forward=1 '开启路由转发'
net.ipv4.conf.all.send_redirects = 0 '关闭重定向'
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0
[root@lvm-master ~]# sysctl -p '重载配置'
net.ipv4.ip_forward = 1
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0
[root@lvm-master ~]# cd /etc/sysconfig/network-scripts/
[root@lvm-master network-scripts]# cp ifcfg-ens33 ifcfg-ens33:0
[root@lvm-master network-scripts]# vim ifcfg-ens33:0 '配置VIP网卡'
DEVICE=ens33:0
ONBOOT=yes
IPADDR=192.168.179.10
NETMASK=255.255.255.0
[root@lvm-master network-scripts]# ifup ens33:0
[root@lvm-master network-scripts]# ifconfig
ens33: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500
inet 192.168.179.123 netmask 255.255.255.0 broadcast 192.168.179.255
inet6 fe80::1301:89f0:4405:2aad prefixlen 64 scopeid 0x20<link>
ether 00:0c:29:a9:8d:f9 txqueuelen 1000 (Ethernet)
RX packets 9600 bytes 13865047 (13.2 MiB)
RX errors 0 dropped 0 overruns 0 frame 0
TX packets 2771 bytes 185412 (181.0 KiB)
TX errors 0 dropped 0 overruns 0 carrier 0 collisions 0
ens33:0: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500
inet 192.168.179.10 netmask 255.255.255.0 broadcast 192.168.179.255
ether 00:0c:29:a9:8d:f9 txqueuelen 1000 (Ethernet)
两台LVS服务器都创建脚本便于service管理
[root@lvm-master network-scripts]# cd /etc/init.d/
[root@lvm-master init.d]# vim dr.sh
#!/bin/bash
GW=192.168.179.1 '网关'
VIP=192.168.179.10 '虚拟ip'
RIP1=192.168.179.125 'web服务器地址'
RIP2=192.168.179.126 'web服务器地址'
case "$1" in
start)
/sbin/ipvsadm --save > /etc/sysconfig/ipvsadm '保存配置'
systemctl start ipvsadm '启动服务'
/sbin/ifconfig ens33:0 $VIP broadcast $VIP netmask 255.255.255.255 broadcast $VIP up
/sbin/route add -host $VIP dev ens33:0 '添加路由网段信息'
/sbin/ipvsadm -A -t $VIP:80 -s rr '指定虚拟服务访问入口,轮询算法'
/sbin/ipvsadm -a -t $VIP:80 -r $RIP1:80 -g '指定真实服务器地址,dr模式'
/sbin/ipvsadm -a -t $VIP:80 -r $RIP2:80 -g
echo "ipvsadm starting --------------------[ok]"
;;
stop)
/sbin/ipvsadm -C '清空缓存'
systemctl stop ipvsadm '关闭服务'
ifconfig ens33:0 down '关闭接口'
route del $VIP '删除路由信息'
echo "ipvsamd stoped----------------------[ok]"
status)
if [ ! -e /var/lock/subsys/ipvsadm ];then '判断文件存在与否决定状态'
echo "ipvsadm stoped---------------"
exit 1
else
echo "ipvsamd Runing ---------[ok]"
fi
;;
*)
echo "Usage: $0 {start|stop|status}"
exit 1
esac
exit 0
[root@lvm-master init.d]# chmod +x dr.sh
[root@lvm-master init.d]# service dr.sh start
ipvsadm starting --------------------[ok]
3.3 节点服务器配置
节点服务器配置apache服务,抑制ARP响应
[root@apache01 ~]# yum install httpd -y
[root@apache01 ~]# systemctl start httpd
[root@apache01 ~]# cd /var/www/html/
[root@apache01 html]# vim index.html
<h1>this is cllt web</h1>
[root@apache01 html]# cd /etc/sysconfig/network-scripts/
[root@apache01 network-scripts]# cp ifcfg-lo ifcfg-lo:0
[root@apache01 network-scripts]# vim ifcfg-lo:0 '配置VIP地址'
DEVICE=lo:0
IPADDR=192.168.179.10
NETMASK=255.255.255.0
ONBOOT=yes
[root@apache01 network-scripts]# cd /etc/init.d/
[root@apache01 init.d]# vim web.sh '添加arp抑制响应'
#!/bin/bash
VIP=192.168.179.10
case "$1" in
start)
ifconfig lo:0 $VIP netmask 255.255.255.255 broadcast $VIP
/sbin/route add -host $VIP dev lo:0
echo "1" >/proc/sys/net/ipv4/conf/lo/arp_ignore
echo "2" >/proc/sys/net/ipv4/conf/lo/arp_announce
echo "1" >/proc/sys/net/ipv4/conf/all/arp_ignore
echo "2" >/proc/sys/net/ipv4/conf/all/arp_announce
sysctl -p >/dev/null 2>&1
echo "RealServer Start OK "
;;
stop)
ifconfig lo:0 down
route del $VIP /dev/null 2>&1
echo "0" >/proc/sys/net/ipv4/conf/lo/arp_ignore
echo "0" >/proc/sys/net/ipv4/conf/lo/arp_announce
echo "0" >/proc/sys/net/ipv4/conf/all/arp_ignore
echo "0" >/proc/sys/net/ipv4/conf/all/arp_announce
echo "RealServer Stopd"
;;
*)
echo "Usage: $0 {start|stop}"
exit 1
esac
exit 0
[root@apache01 init.d]# chmod +x web.sh
[root@apache01 init.d]# service web.sh start
RealServer Start OK
3.4 调度服务器keepalived部署
[root@lvm-master init.d]# cd /etc/keepalived/
! Configuration File for keepalived
global_defs {
notification_email {
acassen@firewall.loc
failover@firewall.loc
sysadmin@firewall.loc
}
notification_email_from Alexandre.Cassen@firewall.loc
smtp_server 127.0.0.1 '指向本地'
smtp_connect_timeout 30
router_id LVS_01 '指定名称,备份服务器不同名称'
vrrp_skip_check_adv_addr
vrrp_strict
vrrp_garp_interval 0
vrrp_gna_interval 0
}
vrrp_instance VI_1 {
state MASTER '备份服务器改为backup'
interface ens33
virtual_router_id 51 '组号需要相同'
priority 100 '优先级,备份服务器需要小于主服务器'
advert_int 1
authentication {
auth_type PASS '验证类型'
auth_pass 1111 '验证密码'
}
virtual_ipaddress {
192.168.179.10 'VIP地址'
}
}
virtual_server 192.168.179.10 80 {
delay_loop 6
lb_algo rr
lb_kind DR 'LVS的模式'
persistence_timeout 50
protocol TCP
real_server 192.168.179.125 80 {
weight 1
TCP_CHECK {
connect_port 80 '端口号'
connect_timeout 3
nb_get_retry 3
delay_before_retry 3
}
}
real_server 192.168.179.126 80 {
weight 1
TCP_CHECK {
connect_port 80
connect_timeout 3
nb_get_retry 3
delay_before_retry 3
}
}
}
[root@lvm-master keepalived]# systemctl start keepalived.service
3.5 验证
在客户机中进行验证
访问浏览器访问虚拟ip地址,成功跳转web站点,验证采取的是轮询算法
此时Backup服务器处于热备状态,实验来验证keepalived服务正常
[root@lvm-master keepalived]# init 0 '直接关闭master服务器'
此时是Backup服务器在工作