Keepalived + Nginx 实现高可用Web负载均衡

Keepalived + Nginx 实现高可用Web负载均衡

Keepalived + Nginx 实现高可用Web负载均衡。

一、场景需求：

二、Keepalived 简要介绍

Keepalived 是一种高性能的服务器高可用或热备解决方案，Keepalived 可以用来防止服务器单点故

障的发生，通过配合 Nginx 可以实现 web 前端服务的高可用。

Keepalived 以 VRRP 协议为实现基础，用 VRRP 协议来实现高可用性(HA)。VRRP(Virtual Router

Redundancy Protocol)协议是用于实现路由器冗余的协议，VRRP 协议将两台或多台路由器设备虚拟成一个设备，对外提供虚拟路由器 IP(一个或多个)，而在路由器组内部，如果实际拥有这个对外 IP 的路由器如果工作正常的话就是 MASTER， 或者是通过算法选举产生， MASTER 实现针对虚拟路由器 IP 的各种网络功能，如 ARP 请求，ICMP，以及数据的转发等；其他设备不拥有该虚拟 IP，状态是 BACKUP，除了接收 MASTER 的VRRP 状态通告信息外，不执行对外的网络功能。当主机失效时，BACKUP 将接管原先 MASTER 的网络功能。

VRRP 协议使用多播数据来传输 VRRP 数据， VRRP 数据使用特殊的虚拟源 MAC 地址发送数据而不是自身网卡的 MAC 地址，VRRP 运行时只有 MASTER 路由器定时发送 VRRP 通告信息，表示 MASTER 工作正常以及虚拟路由器 IP(组)，BACKUP 只接收 VRRP 数据，不发送数据，如果一定时间内没有接收到 MASTER 的通告信息，各 BACKUP 将宣告自己成为 MASTER，发送通告信息，重新进行 MASTER 选举状态。

三、方案规划

CentOS 6.6 x64

keepalived-1.2.18.tar.gz

nginx-1.6.2.tar.gz

 

四、安装 Nginx

1、安装编译 Nginx 所需的依赖包

1	yuminstallgccgcc-c++makeautomakeautoconflibtoolpcrepcre-develzlibzlib-developensslopenssl-devel

2、上传 Nginx(nginx-1.6.2.tar.gz)到 /usr/local/src 目录

3、编译安装 Nginx

1 2 3 4 5

cd /usr/local/src/ tar -zxvfnginx-1.6.2. tar .gz cdnginx-1.6.2 . /configure--prefix = /usr/local/nginx make &&makeinstall

4、配置 Nginx

1	vi /usr/local/nginx/conf/nginx .conf

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38

userroot; worker_processes1; #error_loglogs/error.log; #error_loglogs/error.lognotice; #error_loglogs/error.loginfo; #pidlogs/nginx.pid; events{ worker_connections1024; } http{ includemime.types; default_typeapplication /octet-stream ; #log_formatmain'$remote_addr-$remote_user[$time_local]"$request"' #'$status$body_bytes_sent"$http_referer"' #'"$http_user_agent""$http_x_forwarded_for"'; #access_loglogs/access.logmain; sendfileon; #tcp_nopushon; #keepalive_timeout0; keepalive_timeout65; #gzipon; server{ listen88; server_namelocalhost; #charsetkoi8-r; #access_loglogs/host.access.logmain; location/{ roothtml; indexindex.htmlindex.htm; } #error_page404/404.html; #redirectservererrorpagestothestaticpage/50x.html error_page500502503504 /50x .html; location= /50x .html{ roothtml; } } }

修改 Nginx 欢迎首页内容（用于后面测试，用于区分两个节点的 Nginx） ：

1	vi /usr/local/nginx/html/index .html

192.168.1.51 中的标题加 1

1

Welcometonginx!1

192.168.1.52 中的标题加 2

1

Welcometonginx!2

5、系统防火墙打开对应的端口 88

1 2 3

vi /etc/sysconfig/iptables ##Nginx -AINPUT-mstate--stateNEW-mtcp-ptcp--dport88-jACCEPT

1	serviceiptablesrestart

6、测试 Nginx 是否安装成功

1 2 3

/usr/local/nginx/sbin/nginx-t nginx:theconfigurationfile /usr/local/nginx/conf/nginx .confsyntaxisok nginx:configurationfile /usr/local/nginx/conf/nginx .conftestissuccessful

7、启动 Nginx

1	/usr/local/nginx/sbin/nginx

重启 Nginx

1	/usr/local/nginx/sbin/nginx-sreload

8、设置 Nginx 开机启动

1 2	vi /etc/rc . local /usr/local/nginx/sbin/nginx

9、分别访问两个 Nginx

五、安装 Keepalived （ https://www.keepalived.org/download.html ）

1、上传或下载 keepalived（keepalived-1.2.18.tar.gz）到 /usr/local/src 目录

2、解压安装

1 2 3 4 5

cd /usr/local/src tar -zxvfkeepalived-1.2.18. tar .gz cdkeepalived-1.2.18 . /configure--prefix = /usr/local/keepalived make &&makeinstall

3、将 keepalived 安装成 Linux 系统服务：

因为没有使用 keepalived 的默认路径安装（默认是/usr/local）,安装完成之后，需要做一些工作

复制默认配置文件到默认路径

1 2	mkdir /etc/keepalived cp /usr/local/keepalived/etc/keepalived/keepalived .conf /etc/keepalived/

复制 keepalived 服务脚本到默认的地址

1 2 3 4

cp /usr/local/keepalived/etc/rc .d /init .d /keepalived/etc/init .d/ cp /usr/local/keepalived/etc/sysconfig/keepalived/etc/sysconfig/ ln -s /usr/local/sbin/keepalived/usr/sbin/ ln -s /usr/local/keepalived/sbin/keepalived/sbin/

设置 keepalived 服务开机启动

1	chkconfigkeepalivedon

4、修改 Keepalived 配置文件

(1) MASTER 节点配置文件（192.168.1.51）

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39

vi /etc/keepalived/keepalived .conf !ConfigurationFileforkeepalived global_defs{ ##keepalived自带的邮件提醒需要开启sendmail服务。建议用独立的监控或第三方SMTP router_idedu-proxy-01 ##标识本节点的字条串，通常为hostname } ##keepalived会定时执行脚本并对脚本执行的结果进行分析，动态调整vrrp_instance的优先级。如果 脚本执行结果为0，并且weight配置的值大于0，则优先级相应的增加。如果脚本执行结果非0，并且weight 配置的值小于0，则优先级相应的减少。其他情况，维持原本配置的优先级，即配置文件中priority对应 的值。 vrrp_scriptchk_nginx{ script "/etc/keepalived/nginx_check.sh" ##检测nginx状态的脚本路径 interval2 ##检测时间间隔 weight-20 ##如果条件成立，权重-20 } ##定义虚拟路由，VI_1为虚拟路由的标示符，自己定义名称 vrrp_instanceVI_1{ stateMASTER #主节点为MASTER，对应的备份节点为BACKUP interfaceeth1 #绑定虚拟IP的网络接口，与本机IP地址所在的网络接口相同，我的是eth1 virtual_router_id51 #虚拟路由的ID号，两个节点设置必须一样，可选IP最后一段使用,相 同的VRID为一个组，他将决定多播的MAC地址 mcast_src_ip192.168.1.51 #本机IP地址 priority100 #节点优先级，值范围0-254，MASTER要比BACKUP高 nopreempt #优先级高的设置nopreempt解决异常恢复后再次抢占的问题 advert_int1 #组播信息发送间隔，两个节点设置必须一样，默认1s #设置验证信息，两个节点必须一致 authentication{ auth_typePASS auth_pass1111 ##真实生产，按需求对应该过来 } ##将track_script块加入instance配置块 track_script{ chk_nginx ##执行Nginx监控的服务 } ##虚拟IP池,两个节点设置必须一样 virtual_ipaddress{ 192.168.1.50 ##虚拟ip，可以定义多个 } }

(2)BACKUP 节点配置文件（192.168.1.52）:

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28

vi /etc/keepalived/keepalived .conf !ConfigurationFileforkeepalived global_defs{ router_idedu-proxy-02 } vrrp_scriptchk_nginx{ script "/etc/keepalived/nginx_check.sh" interval2 weight-20 } vrrp_instanceVI_1{ stateBACKUP interfaceeth1 virtual_router_id51 mcast_src_ip192.168.1.52 priority90 advert_int1 authentication{ auth_typePASS auth_pass1111 } track_script{ chk_nginx } virtual_ipaddress{ 192.168.1.50 } }

5、编写 Nginx 状态检测脚本 /etc/keepalived/nginx_check.sh (已在 keepalived.conf 中配置)

脚本要求： 如果 nginx 停止运行， 尝试启动， 如果无法启动则杀死本机的 keepalived 进程， keepalied

将虚拟 ip 绑定到 BACKUP 机器上。内容如下：

1 2 3 4 5 6 7 8 9 10

vi /etc/keepalived/nginx_check .sh #!/bin/bash A=` ps -Cnginx–no-header| wc -l` if [$A-eq0]; then /usr/local/nginx/sbin/nginx sleep2 if [` ps -Cnginx--no-header| wc -l`-eq0]; then killallkeepalived fi fi

保存后，给脚本赋执行权限：

1	chmod +x /etc/keepalived/nginx_check .sh

6、启动 Keepalived

1 2	servicekeepalivedstart Startingkeepalived:[OK]

7、Keepalived+Nginx 的高可用测试

(1)关闭 192.168.1.51 中的 Nginx，Keepalived 会将它重新启动

1	/usr/local/nginx/sbin/nginx-sstop

(2)关闭 192.168.1.51 中的 Keepalived，VIP 会切换到 192.168.1.52 中

1	servicekeepalivedstop

Keepalived 停止后，该节点的网络接口中的 VIP 将消失

查看此时 VIP 对应的 MAC，Windows 下使用 CMD 命令查看：

说明此时 VIP 已经漂移到物理主机 192.168.1.52 上了

再通过 VIP 来访问 Nginx 集群，访问到的也是 192.168.1.52

(3)重新启动 192.168.1.51 中的 Keepalived，VIP 又会切回到 192.168.1.51 中来

1	servicekeepalivedstart

查看虚拟 IP 状态

1

ipadd

Keepalived 启动后，网络接口上又会创建出 VIP 192.168.1.50

Keepalived 服务管理命令：

停止：service keepalived stop

启动：service keepalived start

重启：service keepalived restart

查看状态：service keepalived status