Keepalived+Nginx+Tomcat 实现高可用Web集群

lishiW12345

已于 2024-05-30 16:23:42 修改

阅读量914

点赞数 16

文章标签： java

于 2024-05-20 15:53:38 首次发布

本文链接：https://blog.csdn.net/weixin_45088518/article/details/139067206

版权

Keepalived+Nginx+Tomcat 实现高可用Web集群

微信获取完整文档 lishiq8888 获取一对一指导安装

红色标注的改为自己实际的IP地址

tomcat1 192.168.24.137

Tomcat2 192.168.24.127

nginx+keepalived(Master)（主机）192.168.24.128

nginx+keepalived(Backup)（备机）192.168.24.129

nginx的高可用的含义

微信获取完整文档 lishiq8888 获取一对一指导安装

注意：本文的高可用针对的是nginx，不是tomcat。如果某个tomcat挂掉了，nginx中如果配置了多个tomcat，nginx会将挂掉的tomcat剔除。
但是问题是如果nginx挂了，那服务就彻底不可用了，所以引入了keeplived，他要求你至少有两个nginx，其中的一个nginx挂了，那么keeplived会自动切到另一台nginx上，这样就保证了nginx的可用性。

Keepalived简要介绍

微信获取完整文档 lishiq8888 获取一对一指导安装

Keepalived 是一种高性能的服务器高可用或热备解决方案，Keepalived 可以用来防止服务器单点故障的发生，通过配合 Nginx 可以实现 web 前端服务的高可用。

这种Nginx+keepalived高可用架构一般有2种模式：
1、主备模式
使用一个VIP（虚拟IP）地址，前端使用2台机器，一台做主，一台做备，但同时只有一台机器工作，另一台备份机器在主机器不出现故障的时候，永远处于浪费状态，对于服务器不多的网站，该方案不经济实惠。

2、双主模式
使用两个VIP（虚拟IP）地址，前端使用2台机器，互为主备，同时有两台机器工作，当其中一台机器出现故障，两台机器的请求转移到一台机器负担，非常适合于当前架构环境。

Keepalived 以 VRRP 协议为实现基础，用 VRRP 协议来实现高可用性(HA)。
VRRP(Virtual Router Redundancy Protocol)协议是用于实现路由器冗余的协议，VRRP 协议将两台或多台路由器设备虚拟成一个设备，对外提供虚拟路由器 IP(一个或多个)，而在路由器组内部，如果实际拥有这个对外 IP 的路由器如果工作正常的话就是 MASTER，或者是通过算法选举产生， MASTER 实现针对虚拟路由器 IP 的各种网络功能，如 ARP 请求，ICMP，以及数据的转发等；其他设备不拥有该虚拟 IP，状态是 BACKUP，除了接收 MASTER 的VRRP 状态通告信息外，不执行对外的网络功能。
当主机失效时，BACKUP 将接管原先 MASTER 的网络功能。
VRRP 协议使用多播数据来传输 VRRP 数据， VRRP 数据使用特殊的虚拟源 MAC 地址发送数据而不是自身网卡的 MAC 地址，VRRP 运行时只有 MASTER 路由器定时发送 VRRP 通告信息，表示 MASTER 工作正常以及虚拟路由器 IP(组)，BACKUP 只接收 VRRP 数据，不发送数据，如果一定时间内没有接收到 MASTER 的通告信息，各 BACKUP 将宣告自己成为 MASTER，发送通告信息，重新进行 MASTER 选举状态。

Keepalived+Nginx实现高可用Web负载均衡

通过keepalived来实现同一个虚拟IP映射到两台Nginx代理服务器，如果主服务器挂掉或者主服务器的keepalived挂掉又或者主服务器的Nginx挂掉（Nginx挂掉后会杀死keepalived的进程，在脚本中有控制）那从服务器的keepalived会检测到并会接管原先MASTER的网络功能，这种方式来实现Nginx的高可用性

JDK安装

上传解压安装JDK

上传至/usr/local/

解压

tar -zxvf jdk-8u202-linux-x64.tar.gz

配置JDK环境变量

键入命令 vim /etc/profile 修改配置文件，记得要在root权限下修改

在配置文件末尾加入

export JAVA_HOME=/usr/local/jdk1.8.0_11

export CLASSPATH=.:$JAVA_HOME/lib:$JAVA_HOME/lib/tools.jar

export PATH=$PATH:$JAVA_HOME/bin

点击esc 进入命令模式输入：wq! 保存修改信息

然后键入命令source /etc/profile 使配置文件生效

测试安装效果

键入命令 java -version 得到如下结果表示安装成功

Tomcat 安装

进入安装目录

cd /usr/local

解压压缩包
tar -zxvf apache-tomcat-8.5.87.tar.gz

配置环境变量

vim /etc/profile

export CATALINA_HOME=/usr/local/apache-tomcat-8.5.100

生效命令

source /etc/profile

退出编辑

:wq

启动

cd /usr/local/apache-tomcat-8.5.100/bin

./startup.sh

开放端口

firewall-cmd --zone=public --add-port=8080/tcp --permanent

重启防火墙才能生效

systemctl restart firewalld

根据自己实际IP地址进行修改index.jsp的信息，用于区分用于标识切换默 Web

<h1>${pageContext.servletContext.serverInfo}(192.168.24.137)<%=request.getHeader("X-NGINX")%></h1>

Nginx 安装过程

主机配置

安装所需插件

安装gcc

安装命令:

yum -y install gcc

相pcre、pcre-devel安装

键入命令

yum install -y pcre pcre-devel

zlib安装

zlib库提供了很多种压缩和解压缩方式nginx使用zlib对http包的内容进行gzip，所以需要安装

yum install -y zlib zlib-devel

安装openssl

安装命令：

yum install -y openssl openssl-devel

安装nginx

解压缩

# tar -zxvf nginx-1.24.0.tar.gz

编译安装

cd /usr/local/nginx-1.24.0/

./configure --with-http_ssl_module

编译

make

安装

make install

切换到/usr/local/nginx安装目录

cd /usr/local/nginx

启动命令

cd /usr/local/nginx/sbin

./nginx

配置Master节点[192.168.24.128]代理信息

微信获取完整文档 lishiq8888 获取一对一指导安装

cd /usr/local/nginx/conf

编辑nginx.conf添加一下信息

upstream tomcat {
     server 192.168.24.137:8080 weight=1;
     server 192.168.24.127:8080 weight=1;
}

server {
        listen       80;
        server_name localhost;
             location / {
             proxy_pass http://tomcat;
             proxy_set_header X-NGINX "NGINX-1";
        }
    }

配置Backup节点[192.168.24.129]代理信息

   upstream tomcat {
     server 192.168.24.137:8080 weight=1;
     server 192.168.24.127:8080 weight=1;
    }
    server {
        listen       80;
        server_name localhost;
             location / {
             proxy_pass http://tomcat;
             proxy_set_header X-NGINX "NGINX-2";
        }
    }

设置成功后重启nginx

cd /usr/local/nginx/sbin

./nginx -s reload

分别访问效果如下

Keepalived安装

cd /usr/local

解压

tar -zxvf keepalived-1.4.2.tar.gz

cd /usr/local/keepalived-1.4.2

安装

./configure --prefix=/usr/local/keepalived

编译及安装

make && make install

完成后会在以下路径生成：

/usr/local/etc/keepalived/keepalived.conf /usr/local/etc/sysconfig/keepalived

/usr/local/keepalived/sbin/keepalived

创建目录并加入开机自启

etc下创建keepalived目录

mkdir /etc/keepalived/

将keepalived主程序加入到环境变量

cp /usr/local/keepalived/sbin/keepalived /usr/sbin/

keepalived启动脚本（源码目录下），放到/etc/init.d/目录下就可以使用service命令便捷调用

cp /usr/local/keepalived-1.4.2/keepalived/etc/init.d/keepalived /etc/init.d/

keepalived启动脚本变量引用文件

cp /usr/local/keepalived-1.4.2/keepalived/etc/sysconfig/keepalived /etc/sysconfig/

将配置文件放到默认路径下

cp /usr/local/keepalived/etc/keepalived/keepalived.conf /etc/keepalived/

赋予权限

chmod 755 /etc/init.d/keepalived

加为系统服务

chkconfig --add keepalived

调整启动级别

chkconfig --level 345 keepalived on

启动 service keepalived start

systemctl status keepalived

关闭命令 service keepalived stop

重启命令 service keepalived restart

keepalived.conf配置文件

配置HA和负载均衡。

一个功能比较完整的常用的keepalived配置文件，主要包含三块：全局定义块、VRRP实例定义块和虚拟服务器定义块。全局定义块是必须的，如果keepalived只用来做ha，虚拟服务器是可选的

keepalived放开防火墙规则

firewall-cmd --direct --permanent --add-rule ipv4 filter INPUT 0 --destination 224.0.0.18 --protocol vrrp -j ACCEPT

firewall-cmd --direct --permanent --add-rule ipv4 filter OUTPUT 0 --destination 224.0.0.18 --protocol vrrp -j ACCEPT

firewall-cmd --reload

在Master节点和Backup节点 /etc/keepalived目录下添加check_nginx.sh 文件，用于检测Nginx的存货状况并配置keepalived.conf

Master节点keepalived.conf文件配置

! Configuration File for keepalived

global_defs {
router_id localhost
}

vrrp_script chk_nginx {

script "/etc/keepalived/check_nginx.sh"

interval 2

weight -20

}

vrrp_instance VI_1 {

state MASTER #标示状态为MASTER 备份机为BACKUP

interface ens33 #设置实例绑定的网卡(ip addr查看，需要根据个人网卡绑定)

virtual_router_id 51 #同一实例下virtual_router_id必须相同

mcast_src_ip 192.168.24.128

priority 250 #MASTER权重要高于BACKUP 比如BACKUP为240

advert_int 1 #MASTER与BACKUP负载均衡器之间同步检查的时间间隔，单位是秒

nopreempt #非抢占模式

authentication { #设置认证

auth_type PASS #主从服务器验证方式

auth_pass 123456

}

track_script {

check_nginx

}

#设置vip

virtual_ipaddress {

#可以多个虚拟IP，换行即可

192.168.24.132

}

Backup节点keepalived.conf文件配置

! Configuration File for keepalived

global_defs {
   router_id localhost
}
vrrp_script chk_nginx {
script "/etc/keepalived/check_nginx.sh"
interval 2
weight -20
}
vrrp_instance VI_1 {
   state BACKUP #标示状态为MASTER 备份机为BACKUP
   interface ens33 #设置实例绑定的网卡(ip addr查看，需要根据个人网卡绑定)
   virtual_router_id 51 #同一实例下virtual_router_id必须相同
   mcast_src_ip 192.168.24.129
   priority 240 #MASTER权重要高于BACKUP 比如BACKUP为240
   advert_int 1 #MASTER与BACKUP负载均衡器之间同步检查的时间间隔，单位是秒
   nopreempt #非抢占模式
   authentication { #设置认证
   auth_type PASS   #主从服务器验证方式
   auth_pass 123456
   }
    track_script {
      check_nginx
    }
    #设置vip
    virtual_ipaddress {
    #可以多个虚拟IP，换行即可
     192.168.43.150
    }
}