一.高可用集群
1.1什么是keepalived
keepalived是集群管理中保证集群高可用的一个服务软件,用来防止单点故障。基于VRRP(冗余协议)基础之上提高系统高用性、降低平均故障时间,减少资源耗费的高可用集群。
通常情况下是将两台服务器组成一个热备组,同一时间热备组内只有一台主服务器(master)提供服务,同时master会虚拟出一个共用IP地址(VIP),这个VIP只存在master上并对外提供服务。
如果keepalived检测到master宕机或服务故障,备服务器会自动接管VIP成为master,keepalived并将master从热备组移除,当master恢复后,会自动加入到热备组,默认再抢占成为master,起到故障转移功能。减少资源损耗。
keepalived 是VRRP的软件实现,为了实现高可用ipvs服务
功能:
1.基于vrrp协议完成地址流动
2.为vip地址所在的节点生成ipvs规则(在配置文件中预先定义)
3.为ipvs集群的各RS做健康状态检测
4.基于脚本调用接口完成脚本中定义的功能,进而影响集群事务,以此支持nginx、haproxy等服务
用户空间核心组件:
vrrp stack:VIP消息通告
checkers:监测real server
system call:实现 vrrp 协议状态转换时调用脚本的功能
SMTP:邮件组件
IPVS wrapper:生成IPVS规则
Netlink Reflector:网络接口
WatchDog:监控进程
控制组件:提供keepalived.conf 的解析器,完成Keepalived配置
IO复用器:针对网络目的而优化的自己的线程抽象
内存管理组件:为某些通用的内存管理功能(例如分配,重新分配,发布等)提供访问权限
1.2什么是VRRP协议
VRRP全称 Virtual Router Redundancy Protocol,即虚拟路由冗余协议。对于VRRP,需要清楚知道的是:
1)VRRP是用来实现路由器冗余的协议。
2)VRRP协议是为了消除在静态缺省路由环境下路由器单点故障引起的网络失效而设计的主备模式的协议,使得发生故障而进行设计设备功能切换时可以不影响内外数据通信,不需要再修改内部网络的网络参数。
3)VRRP协议需要具有IP备份,优先路由选择,减少不必要的路由器通信等功能。
4)VRRP协议将两台或多台路由器设备虚拟成一个设备,对外提供虚拟路由器IP(一个或多个)。然而,在路由器组内部,如果实际拥有这个对外IP的路由器如果工作正常的话,就是master,或者是通过算法选举产生的,MASTER实现针对虚拟路由器IP的各种网络功能,如ARP请求,ICMP,以及数据的转发等,其他设备不具有该IP,状态是BACKUP。除了接收MASTER的VRRP状态通告信息外,不执行对外的网络功能,当主级失效时,BACKUP将接管原先MASTER的网络功能。
5)VRRP协议配置时,需要配置每个路由器的虚拟路由ID(VRID)和优先权值,使用VRID将路由器进行分组,具有相同VRID值的路由器为同一个组,VRID是一个0-255的整整数,;同一个组中的路由器通过使用优先权值来选举MASTER。,优先权大者为MASTER,优先权也是一个0-255的正整数。
1.3实验环境搭建
两台安装ka的服务器,两台客户机,IP无要求,关闭火墙和selinux
1.4keepalived全局配置
查看依赖文件
修改完成后重启服务 启动服务 systemctl enable --now keepalived.service
scp /etc/keepalived/keepalived.conf root@172.25.254.20:/etc/keepalived/keepalived.将ka1配置好的文件内容直接复制到ka2 只要修改 state 和 优先级
然后启动服务systemctl enable --now keepalived.service
现在进行测试,在k1中抓包,看能否获取到组播。正常ka1优先级高于ka2 所以抓包抓到的应该是
使用server1服务端ssh -l远程链接ka1 在ka1上systemctl stop keepalived.service
模拟ka1故障再次进行抓包访问的就是ka2
1.5启用keepalived日志功能
1.先启动服务 这样就会有日志生成
-
systemctl restart keepalived.service
-
systemctl restart rsyslog.service
重启服务 systemctl restart keepalived.service独立日志生成
1.6独立子配置文件
当生产环境复杂时, /etc/keepalived/keepalived.conf 文件中内容过多,不易管理 将不同集群的配置,比如:不同集群的VIP配置放在独立的子配置文件中利用include 指令可以实现包含子配置文件。
vim /etc/keepalived/keepalived.conf 将此文件中的
将上边的内容写入此新建的文件夹
二.Keepalived 的应用示例
2.1 抢占模式和非抢占模式
非抢占模式(记得重启系统 keepalived,查看ifconfig);
默认为抢占模式preempt,即当高优先级的主机恢复在线后,会抢占低先级的主机的master角色, 这样会使vip在KA主机中来回漂移,造成网络抖动, 建议设置为非抢占模式 nopreempt ,即高优先级主机恢复后,并不会抢占低优先级主机的master角色 非抢占模块下,如果原主机down机, VIP迁移至的新主机, 后续也发生down时,仍会将VIP迁移回原主机。
Waring:要关闭 VIP抢占,必须将各 keepalived 服务器state配置为BACKUP
ka1和ka2 中进行 vim /etc/keepalived/keepalived.conf systemctl restart keepalived.service
ka1:systemctl stop keepalived.service
由此可得 此时ka1 keepalived服务关闭时 vip到达ka2 重启ka1keepalived时 vip还在ka2 所以未发生抢占。
抢占模式
抢占延迟模式,即优先级高的主机恢复后,不会立即抢回VIP,而是延迟一段时间(默认300s)再抢回 VIP。
pressmpt_elay 5s 延时抢占时间为5
重启ka1 5s过后 vip回到ra1中
2.2VIP单播配置
- Keepalived 的 VRRP(Virtual Router Redundancy Protocol)实现支持两种模式:组播和单播。
- 组播模式:这是 VRRP 的标准模式,也是 Keepalived 的默认模式。在组播模式中,VRRP 实例将其通告(Advertisement)消息发送到一个特定的组播地址(通常是 224.0.0.18)。所有的 VRRP 实例都监听这个地址,因此它们都可以接收到这些通告消息。这种模式的优点是它不需要知道其他 VRRP 实例的 IP 地址,但是它需要网络设备支持组播。
- 单播模式:在单播模式中,VRRP 实例将其通告消息直接发送到其他 VRRP 实例的 IP 地址。这种模式的优点是它不需要网络设备支持组播,但是它需要在配置中指定其他 VRRP 实例的 IP 地址。
- 默认keepalived主机之间利用多播相互通告消息,会造成网络拥塞,可以替换成单播,减少网络流量
启用vrrp_strict时,不能启用单播,否则服务无法启动
使用此命令抓包看结果
tcpdump -i eth0 -nn src host 172.25.254.10 and dst 172.25.254.20
tcpdump -i eth0 -nn src host 172.25.254.20 and dst 172.25.254.10
2.3邮件配置
1、首先在浏览器登录自己的qq邮箱,并获取授权码
2、在k1和k2中yum install mailx -y
vim /etc/mail.rc
echo test message | mail -s test 1339912695@qq.com 进入邮箱查看
2.4通知脚本的创建
-
vim /etc/keepalived/mail.sh
-
cat /etc/keepalived/mail.sh
-
#!/bin/bash
mail_dst="1339912695@qq.com"
send_message()
{
mail_sub="$HOSTNAME to be $1 vip move"
mail_msg="`date +%F\ %T`:vrrp move $HOSTNAME chage $1"
echo $mail_msg | mail -s "$mail_sub" $mail_dst
}
case $1 in
master)
send_message master
;;
backup)
send_message backup
;;
fault)
send_message fault
;;
*)
;;
esac
chmod +x /etc/keepalived/mail.sh
以上操作ka1和ka2都一样
写入主配置文件 重启服务 systemctl restart keepalived.service
在邮箱中查看发现 关闭ka1的keepalived服务发送主机变成了ka2
2.5keepalived的双主架构
- master/slave的单主架构,同一时间只有一个Keepalived对外提供服务,此主机繁忙,而另一台主机却 很空闲,利用率低下,可以使用master/master的双主架构,解决此问题。
- master/master 的双主架构: 即将两个或以上VIP分别运行在不同的keepalived服务器,以实现服务器并行提供web访问的目的,提高服务器资源利用率。
ka1:vim /etc/keepalived/keepalived.conf
ka2
2.6实现IPVS的高可用性
- 配置结构
virtual_server IP port {
...
real_server {
...
}
real_server {
...
}
…
}
- 定义格式
- virtual_server IP port 定义虚拟主机IP地址及其端口
- virtual_server fwmark int ipvs的防火墙打标,实现基于防火墙的负载均衡集群
- virtual_server group string 使用虚拟服务器组
- 应用层检测
- status_code 200 判断上述检测机制为健康状态的响应码,一般为 200
- nb_get_retry 3 重试次数
- connect_ip 172.25.24.10 向当前RS哪个IP地址发起健康状态检测请求
- connect_port 80 向当前RS的哪个PORT发起健康状态检测请求
- bindto 172.25.254.10 向当前RS发出健康状态检测请求时使用的源地址
- bind_port 80 向当前RS发出健康状态检测请求时使用的源端口
- TCP检测
- connect_ip 172.25.254.10 向当前RS的哪个IP地址发起健康状态检测请求
- connect_port 80 向当前RS的哪个PORT发起健康状态检测请求
- bindto 172.25.254.10 发出健康状态检测请求时使用的源地址
- bind_port 80 发出健康状态检测请求时使用的源端口
- connect_timeout 1 客户端请求的超时时长(等于haproxy的timeout server)
实验准备:
- yum install httpd -y
- echo 172.25.254.110 > /var/www/html/index.html
- systemctl restart httpd.service
- rs2:
- yum install httpd -y
- echo 172.25.254.120 > /var/www/html/index.html
- systemctl restart httpd.service
- rs1:
- ip a a 172.25.254.100/32 dev lo
- //永久设定
- cd /etc/sysconfig/network-scripts/
- vim ifcfg-lo(server1和server2完全相同配置)
vim /etc/sysctl.d/arp.conf (rs1和rs2都一样)
sysctl -p
测试:
2.7VRRP脚本控制VIP
keepalived利用 VRRP Script 技术,可以调用外部的辅助脚本进行资源监控,并根据监控的结果实现优先 动态调整,从而实现其它应用的高可用性功能
参考配置文件:/usr/share/doc/keepalived/keepalived.conf.vrrp.localcheck
VRRP Script 配置
分两步实现:
- 定义脚本
vrrp_script:自定义资源监控脚本,vrrp实例根据脚本返回值,公共定义,可被多个实例调用,定 义在vrrp实例之外的独立配置块,一般放在global_defs设置块之后。
通常此脚本用于监控指定应用的状态。一旦发现应用的状态异常,则触发对MASTER节点的权重减至 低于SLAVE节点,从而实现 VIP 切换到 SLAVE 节点
vrrp_script <SCRIPT_NAME> 定义一个检测脚本,在 global_defs 之外配置
script <STRING>|<QUOTED-STRING> shell命令或脚本路径
interval <INTEGER> 间隔时间,单位为秒,默认1 秒
timeout <INTEGER> 超时时间
weight <INTEGER:-254..254> 默认为 0, 如果设置此值为负数,当上面脚本返回值为非0 时会将此值与本节点权重相加可以降低本节点权重,即表示fall, 如果是正数,当脚本返回值为0,会将此值与本节点权重相加可以提高本节点权重 即表示 rise, 通常使用负值
fall <INTEGER> 执行脚本连续几次都失败 , 则转换为失败,建议设为 2 以上
rise <INTEGER> 执行脚本连续几次都成功,把服务器从失败标记为成功
user USERNAME [GROUPNAME] 执行监测脚本的用户或组
init_fail 设置默认标记为失败状态,监测成功之后再转换为成功状态
调用VRRP :调用vrrp_script定义的脚本去监控资源,定义在VRRP实例之内,调用事先定义的 vrrp_script
vrrp_instance test {
... ...
track_script {
check_down
}
}
2.8实现HAPROXY高可用
1.在k1和k2中安装 haproxy,并启动
在两个ka1和ka2两个节点启用内核参数
vim /etc/sysctl.conf
在k1和k2的主配置文件/etc/haproxy/haproxy.cfg中做修改
查看端口状态
在ka1和ka2中编写检测脚本 vim /etc/keepalived/test.sh
在ka1和ka2中配置keepalived vim /etc/keepalived/keepalived.conf
systemctl stop haproxy.service 测试 :