高可用冗余服务(keepalived)

1. 高可用冗余服务介绍

作用说明: 避免单点故障

1). 负载均衡服务
2). 数据库服务 高可用(MHA)
3). 存储服务器 NFS如何实现高可用 keepalived实现高可用(脚本)+sersync Heartbeat+drbd(同步数据)
4). 备份服务器 数据同步
]

• 实现方式: 利用keepalived服务软件
  keepalived软件介绍:
  1) 实现管理lvs服务
  2) 实现后端节点健康检查功能
  3) 可以实现冗余功能

keepalived如何实现了高可用(原理):Keepalived高可用服务对之间的故障切换转移，是通过 VRRP (虚拟路由器冗余协议）来实现的

3. 高可用服务部署过程:

架构环境准备:
lb01 10.0.0.5 nginx keepalived
lb02 10.0.0.6 nginx keepalived
web01 10.0.0.7 nginx
web02 10.0.0.8 nginx
web03 10.0.0.9 nginx

第一个历程: web服务器环境

web-www.conf 
server {
   listen            80;
   server_name       www.oldboy.com www.jd.com;
   root              /html/www;
   index             index.html;
}

web01:
# cat /html/www/oldboy.html 
web01 www.oldboy.com
web02:
# cat /html/www/oldboy.html 
web02 www.oldboy.com
web03
# cat /html/www/oldboy.html 
web03 www.oldboy.com

测试后端节点:
curl -H host:www.oldboy.com 10.0.0.7/oldboy.html
curl -H host:www.oldboy.com 10.0.0.8/oldboy.html
curl -H host:www.oldboy.com 10.0.0.9/oldboy.html	

第二个历程: 安装负载均衡服务并进行配置

编写nginx配置文件
upstream oldboy {
  server 10.0.0.7:80;
  server 10.0.0.8:80;
  server 10.0.0.9:80;
}	
server {
  listen        80;
  server_name   localhost;
  location / {
     proxy_pass  http://oldboy;
	 proxy_set_header Host $host;
	 proxy_set_header X-Forwarded-For $remote_addr;	  
  }
}

第三个历程: 安装keepalived服务 lb01 lb02

yum install -y keepalived

第四个历程: 编写keepalived配置文件

lb01
 [root@lb01 ~]# cat /etc/keepalived/keepalived.conf
 ! Configuration File for keepalived      --- 注释说明
 
 global_defs {                            --- 全局配置
    notification_email {                  --- 设置通知邮箱地址信息
      acassen@firewall.loc                
      failover@firewall.loc
      sysadmin@firewall.loc
    }
    notification_email_from Alexandre.Cassen@firewall.loc
    smtp_server 192.168.200.1
    smtp_connect_timeout 30
    router_id lb01                        --- 标识每个主机身份名称
 }
 
 vrrp_instance oldboy {                   --- 设置一个家族
     state MASTER                         --- 设置一个主机为主服务器(期望)  (MASTER BACKUP)                     
     interface eth0                       --- 设置指定网卡上生成VIP地址
     virtual_router_id 63                 --- 设置主备一致 家族数值标识
     priority 110                         --- 优先级越高,越有可能成为主
     advert_int 1                         --- 组播包发送间隔
     authentication {                     --- 设置组播通讯认证进制
         auth_type PASS
         auth_pass 1111
     }
     virtual_ipaddress {
         10.0.0.3                         --- 设置VIP地址数值信息
     }
 }

lb02
 [root@lb01 ~]# cat /etc/keepalived/keepalived.conf
 ! Configuration File for keepalived      --- 注释说明
 
 global_defs {                            --- 全局配置
    notification_email {                  --- 设置通知邮箱地址信息
      acassen@firewall.loc                
      failover@firewall.loc
      sysadmin@firewall.loc
    }
    notification_email_from Alexandre.Cassen@firewall.loc
    smtp_server 192.168.200.1
    smtp_connect_timeout 30
    router_id lb02                        --- 标识每个主机身份名称  *
 }
 
 vrrp_instance oldboy {                   --- 设置一个家族
     state BACKUP                         --- 设置一个主机为主服务器(期望)  (MASTER BACKUP)  *                    
     interface eth0                       --- 设置指定网卡上生成VIP地址
     virtual_router_id 63                 --- 设置主备一致 家族数值标识
     priority 100                         --- 优先级越高,越有可能成为主  *
     advert_int 1                         --- 组播包发送间隔
     authentication {                     --- 设置组播通讯认证进制
         auth_type PASS
         auth_pass 1111
     }
     virtual_ipaddress {
         10.0.0.3                         --- 设置VIP地址数值信息
     }
 }
 
 systemctl start keepalived.service

3. keepalived高可用服务常见问题

• 高可用脑裂问题(高可用集群中,多台主机都有vip地址了)
  出现原因: 主服务器还活着, 备服务器收不到组播包
  1) 防火墙服务开启了,阻止组播包通讯
  2) 主备服务器之间心跳线出现问题
  3) 仲裁服务器出现问题

• 如何监控发现出现了脑裂问题:
  lb02编写监控脚本—监控备服务器有没有出现vip地址
  备服务器出现vip原因
  1) 正常主备切换了
  2) 出现了脑裂问题

   #!/bin/bash
   ip a|grep 10.0.0.3 &>/dev/null
   if [ $? -eq 0 ]
   then
      echo "master and backup change"|mail -s "check keepalived server" 330882721@qq.com
   fi

• keepalived存在价值
  nginx负载均衡服务停止 + keepalive服务也应该停止运行

第一个历程: 编写监控nginx服务状态脚本
方法一: 监控nginx服务进程状态
ps -ef|grep nginx
方法二: 监控nginx服务端口状态
netstat -lntup|grep 80

   #!/bin/bash
   port_info=$(netstat -lntup|grep -w 80|wc -l)
   
   if [ $port_info -eq 0 ]
   then
      systemctl stop keepalived
   fi

第二个历程: 将脚本信息调用到keepalived配置文件中

   ! Configuration File for keepalived

   global_defs {
      notification_email {
        acassen@firewall.loc
        failover@firewall.loc
        sysadmin@firewall.loc
      }
      notification_email_from Alexandre.Cassen@firewall.loc
      smtp_server 192.168.200.1
      smtp_connect_timeout 30
      router_id lb01
   }
   
   vrrp_script check_web {                      --- 定义需要监控脚本文件信息
       script "/server/scripts/check_web.sh"    --- 绝对路径定义脚本文件/脚本文件必须有执行权限
       interval 2                               --- 脚本执行间隔周期  
       weight 2                                 --- 权重进行增大减小
   }
   
   vrrp_instance oldboy {
       state MASTER
       interface eth0
       virtual_router_id 63
       priority 110
       advert_int 1
       authentication {
           auth_type PASS
           auth_pass 1111
       }
       virtual_ipaddress {
          10.0.0.3
       }
     track_script {                              --- 定期运行监控脚本
         check_web
     }
   }

取出状态码信息

   curl -I www.oldboy.com -s |awk 'NR==1{print $2}'
   curl -I www.oldboy.com -o /dev/null -s -w "%{http_code}\n"

4. 企业中服务网络安全访问配置

目的: 尽可能不暴露企业服务器IP地址信息给用户

第一个历程: 修改lb负载均衡配置文件

upstream oldboy {
  server 10.0.0.7:80;
  server 10.0.0.8:80;
  server 10.0.0.9:80;
}	
server {
  listen        10.0.0.3:80;
  server_name   localhost;
  location / {
     proxy_pass  http://oldboy;
	 proxy_set_header Host $host;
	 proxy_set_header X-Forwarded-For $remote_addr;	  
  }
}

注意项:
01.nginx程序涉及到IP地址修改,必须重启nginx
02. 监听的地址必须是本地网卡上有的地址
如何监听网卡上没有的地址:
解决方法：

echo 'net.ipv4.ip_nonlocal_bind = 1' >>/etc/sysctl.conf
sysctl -p