服务器群集—Haproxy+keepalived群集

最新推荐文章于 2023-08-27 18:03:46 发布

康丶

最新推荐文章于 2023-08-27 18:03:46 发布

阅读量204

点赞数

分类专栏：服务器群集文章标签：数据库运维 nginx linux java

本文链接：https://blog.csdn.net/kang_01/article/details/111031197

版权

服务器群集专栏收录该内容

7 篇文章 1 订阅

订阅专栏

一、Haproxy

1.1 常见的Web集群调度器

● 目前常见的Wb集群调度器分为软件和硬件
● 软件通常使用开源的LVS、Haproxy、Nginx
● 硬件一般使用比较多的是F5，也有很多人使用国内的一些产品，如梭子鱼、绿盟等

1.2 Haproxy应用分析

LVS在企业应用中抗负载能力很强，但存在不足
● LVS不支持正则处理，不能实现动静分离
● 对于大型网站，LVS的实施配置复杂，维护成本相对较高
● LVS工作在TCP七层协议第四层

Haproxy是一款可提供高可用性、负载均衡、及基于TCP和HTTP应用的代理的软件
● 适用于负载大的Web站点
● 运行在硬件上可支持数以万计的并发连接的连接请求

1.3 Haproxy调度算法原理（RR；LC；SH）

Haproxy支持多种调度算法，最常用的有三种

1.31 ● RR (Round Robin)轮询

RR算法是最简单最常用的一种算法，即轮询调度
理解举例：
◆有三个节点A、B、C
第一个用户访问会被指派到节点A
第二个用户访问会被指派到节点B
第三个用户访问会被指派到节点C
第四个用户访问继续指派到节点A，轮询分配访问请求实现负载均衡效果

1.32 ● LC (Least Connections)最小连接数

最小连接数算法，根据后端的节点连接数大小动态分配前端请求
理解举例：
有三个节点A、B、C，各节点的连接数分别为A:4、B:5、C:6
第一个用户连接请求，会被指派到A上，连接数变为A:5、B:5、C:6
第二个用户请求会继续分配到A上，连接数变为A:6、B:5、C:6
再有新的请求会分配给B，每次将新的请求指派给连接数最小的客户端
由于实际情况下A、B、C的连接数会动态释放，很难会出现一样连接数的情况
此算法相比较rr算法有很大改进，是目前用到比较多的一种算法

1.33 ● SH (Source Hashing)来源访问调度

基于来源访问调度算法，用于一些有Session会话记录在服务器端的场景，可以基于来源的IP、Cookie等做集群调度
理解举例：
有三个节点A、B、C，第一个用户第一次访问被指派到了A，第二个用户第一次访问被指派到了B
当第一个用户第二次访问时会被继续指派到A，第二个用户第二次访问时依旧会被指派到B，只要负载均衡调度器不重启，第一个用户访问都会被指派到A，第二个用户访问都会被指派到B，实现集群的调度
此调度算法好处是实现会话保持，但某些IP访问量非常大时会引起负载不均衡，部分节点访问量超大，影响业务使用

1.4 Haproxy安装与启动

在负载均衡器上安装Haproxy
安装步骤：
● 安装基础软件包
● 编译安装haproxy
● 要注意操作系统版本，是32位系统还是64位
建立Haproxy的配置文件
● 创建配置文件目录/etc/haproxy
● 将源码包提供的配置文件样例haproxy.cfg复制到配置文件目录中

1.5 Haproxy配置文件详解

Haproxy配置文件通常分为三个部分
● global：全局配置
● defaults：默认配置
● listen：应用组件配置

1.51 global配置参数

log127.0.0.1 lcal0：配置日志记录，local0为日志设备，默认存放到系统日志
log127.0.0.1 loca1 notice: notice为日志级别，通常有24个级别
maxconn4096：最大连接数
uid 99：用户 uid
gid 99：用户 gid

1.52 defaults配置项配置默认参数

一般会被应用组件继承，如果在应用组件中没有特别声明，将安装默认配置参数设置
log global：定义日志为global配置中的日志定义
mode http：模式为http option
httplog：采用http日志格式记录日志
retries 3：检查节点服务器失败连续达到三次则认为节点不可用
maxconn2000：最大连接数
contimeout5000：连接超时时间
clitimeout50000：客户端超时时间
srvtimeout50000：服务器超时时间

1.53 listen配置项目一般为配置应用模块参数

listen appli4- backup 0.0.0.0:10004：定义一个appli4- backup的应用
option httpchk /index.html检查服务器的index.html文件
option persist：强制将请求发送到已经down掉的服务器（注释掉，否则起服务会报错）
balance roundrobin：负载均衡调度算法使用轮询算法
server inst1 192.168.114.56:80 check inter 2000 fall 3：定义在线节点
server inst2 192.168 114.56:81 check inter 2000 fall 3 backup：定义备份节点

1.6 Haproxy参数优化

随着企业网站负载增加，haproxy参数优化相当重要
● maxconn:最大连接数，根据应用实际情况进行调整，推荐使用10240
● daemon:守护进程模式，Haproxy可以使用非守护进程模式启动，建议使用守护进程模式启动
● nbproc:负载均衡的并发进程数，建议与当前服务器CPU核数相等或为其2倍

retries:重试次数，主要用于对集群节点的检查，如果节点多，且并发量大，设置为2次或3次

● option http-server-close:主动关闭http请求选项，建议在生产环境中使用此选项
● timeout http-keep-alive:长连接超时时间，设置长连接超时时间，可以设置为10s
● timeout http-request: http请求超时时间，建议将此时间设置为5~10s，增加http连接释放速度
● timeout client:客户端超时时间，如果访问量过大，节点响应慢，可以将此时间设置短一些，建议设置为1min左右就可以了

二、haproxy+keepalived集群配置

2.1 haproxy+keepalived优点

1.可靠性和稳定性非常好，可以和硬件级的负载均衡设备F5相媲美。

2.最高可同时维护40000-50000个并发连接，单位时间内处理的最大请求数为20000个。

3.支持8种负载均衡算法，支持回话保持；支持虚拟主机功能；支持连接拒绝，全透明代理并且有一个功能强大的服务器状态监控界面。

4.拥有功能强大的ACL支持。

5.用haproxy构建群集的时候，比如后方代理两个http，如果haproxy宕机，后方的http正常运行网站也是瘫痪状态，这就造成了单点故障。
这时keepalived就登场了，keepalived基于vrrp协议，两台主机之间生成一个虚拟的ip，我们称漂移ip，漂移ip由主服务器承担，一但主服务器宕机，备份服务器就会抢占漂移ip，继续工作，有效的解决了群集中的单点故障。两者相结合，可靠稳定。

2.2 项目环境

在这里插入图片描述

2.3 主服务器配置

2.31 haproxy配置

放入haproxy-1.4.24.tar软件包

[root@server1 ~]# systemctl stop firewalld
[root@server1 ~]# setenforce 0
[root@server1 ~]# yum -y install gcc gcc-c++ make pcre-devel bzip2-devel
[root@server1 ~]# tar zxvf haproxy-1.4.24.tar.gz
[root@server1 ~]# cd haproxy-1.4.24/
[root@server1 haproxy-1.4.24]# make TARGET=linux26  #内核版本大于2.6的使用，指定内核
[root@server1 haproxy-1.4.24]# make install     #安装
[root@server1 haproxy-1.4.24]# mkdir /etc/haproxy    #创建haproxy目录
[root@server1 haproxy-1.4.24]# cp examples/haproxy.cfg /etc/haproxy/  #将软件包中的配置文件模板复制到haproxy目录中
[root@server1 haproxy-1.4.24]# cd
[root@server1 ~]# vim /etc/haproxy/haproxy.cfg  #修改haproxy.cfg配置参数
修改：
        maxconn 10240     #最大连接数

下面两项前面加上注释
#chroot /usr/share/haproxy     #固有目录，可注释掉
#redispatch       #当使用了cookie时，haproxy将会将其请求的后端服务器的serverID插入到cookie中，以保证会话的SESSION持久性；而此时，如果后端的服务器宕掉了，但是客户端的cookie是不会刷新的，如果设置此参数，将会将客户的请求强制定向到另外一个后端server上，以保证服务的正常。需要注释掉

将原来的所有listen配置项删除，添加新配置：
listen webcluster 0.0.0.0:80      #监听对象webcluster，监听地址为所有地址，目标端口80
          option httpchk GET /index.html    #检查网页内容为站点下/index.html主页
          balance roundrobin     #调度的算法，rr轮询
          server nginx1 192.168.100.30:80 check inter 2000 fall 3    #定义的节点nginx1，间隔时间及次数
          server nginx2 192.168.100.40:80 check inter 2000 fall 3    #定义的节点nginx1


优化服务启动：
[root@server1 ~]# cp haproxy-1.4.24/examples/haproxy.init /etc/init.d/haproxy  #启动脚本文件cp到/etc/init.d/目录下生成haproxy文件
[root@server1 ~]# vi /etc/init.d/haproxy   #配置文件
修改：
# chkconfig: 35 85 15


[root@server1 ~]# chmod 755 /etc/init.d/haproxy    #给予执行权限
[root@server1 ~]# chkconfig --add /etc/init.d/haproxy
[root@server1 ~]# chkconfig --list     #检查haproxy35是否开启
[root@server1 ~]# systemctl enable haproxy   #设置自启动
[root@server1 ~]# ln -s /usr/local/sbin/haproxy /usr/sbin/haproxy   #把命令链接出来方便使用
[root@server1 ~]# systemctl start haproxy     #启动

在这里插入图片描述

2.32 keepalived配置

放入keepalived-2.0.13.tar软件包

[root@server1 ~]# yum -y install gcc gcc-c++ make popt-devel kernel-devel openssl-devel   #安装依赖包
[root@server1 ~]# tar zxvf keepalived-2.0.13.tar.gz      #解压缩keepalived软件包
[root@server1 ~]# cd keepalived-2.0.13/
[root@server1 keepalived-2.0.13]# ./configure --prefix=/    #配置
[root@server1 keepalived-2.0.13]# make && make install   #编译与安装
[root@server1 keepalived-2.0.13]# cp keepalived/etc/init.d/keepalived /etc/init.d     #把keepalived加入系统管理服务
[root@server1 keepalived-2.0.13]# cd
[root@server1 ~]# systemctl enable keepalived.service     #设置开机自启
[root@server1 ~]# vim /etc/keepalived/keepalived.conf     #删除所有配置，重新添加
! Configuration File for keepalived
global_defs {
     router_id lvs_01                               #本服务器的名称
}
vrrp_instance vi_1 {                              #定义VRRP热备实例
    state MASTER                                  #热备状态，MASTER（主服务器）
    interface ens33                                #承载VIP地址的物理接口
    virtual_router_id 51                          #虚拟路由器的ID号，每个热备组保持一致
    priority 110                                       #优先级，数值越大优先级越高
    advert_int 1                                      #通告间隔秒数
    authentication {                                #热备认证信息，每个热备组保持一致
          auth_type PASS                        #认证类型
          auth_pass 6666                        #密码字符串
    }
     virtual_ipaddress {                         #指定漂移地址（VIP）
         192.168.100.100
}
}

[root@server1 ~]# systemctl start keepalived.service    #启动服务
[root@server1 ~]# ip addr

在这里插入图片描述

2.4 备服务器配置

2.41 haproxy配置（与主服务器配置相同）

放入haproxy-1.4.24.tar软件包

[root@server2 ~]# systemctl stop firewalld
[root@server2 ~]# setenforce 0
[root@server2 ~]# yum -y install gcc gcc-c++ make pcre-devel bzip2-devel
[root@server2 ~]# tar zxvf haproxy-1.4.24.tar.gz
[root@server2 ~]# cd haproxy-1.4.24/
[root@server2 haproxy-1.4.24]# make TARGET=linux26  #内核版本大于2.6的使用，指定内核
[root@server2 haproxy-1.4.24]# make install     #安装
[root@server2 haproxy-1.4.24]# mkdir /etc/haproxy    #创建haproxy目录
[root@server2 haproxy-1.4.24]# cp examples/haproxy.cfg /etc/haproxy/  #将软件包中的配置文件模板复制到haproxy目录中
[root@server2 haproxy-1.4.24]# cd
[root@server2 ~]# vim /etc/haproxy/haproxy.cfg  #修改haproxy.cfg配置参数
修改：
        maxconn 10240     #最大连接数

下面两项前面加上注释
#chroot /usr/share/haproxy     #固有目录，可注释掉
#redispatch       #当使用了cookie时，haproxy将会将其请求的后端服务器的serverID插入到cookie中，以保证会话的SESSION持久性；而此时，如果后端的服务器宕掉了，但是客户端的cookie是不会刷新的，如果设置此参数，将会将客户的请求强制定向到另外一个后端server上，以保证服务的正常。需要注释掉

将原来的所有listen配置项删除，添加新配置：
listen webcluster 0.0.0.0:80      #监听对象webcluster，监听地址为所有地址，目标端口80
       option httpchk GET /index.html    #检查网页内容为站点下/index.html主页
       balance roundrobin     #调度的算法，rr轮询
       server nginx1 192.168.100.30:80 check inter 2000 fall 3    #定义的节点nginx1，间隔时间及次数
       server nginx2 192.168.100.40:80 check inter 2000 fall 3    #定义的节点nginx1


优化服务启动：
[root@server2 ~]# cp haproxy-1.4.24/examples/haproxy.init /etc/init.d/haproxy  #启动脚本文件cp到/etc/init.d/目录下生成haproxy文件
[root@server2 ~]# vi /etc/init.d/haproxy   #配置文件
修改：
# chkconfig: 35 85 15


[root@server2 ~]# chmod 755 /etc/init.d/haproxy    #给予执行权限
[root@server2 ~]# chkconfig --add /etc/init.d/haproxy
[root@server2 ~]# chkconfig --list     #检查haproxy35是否开启
[root@server2 ~]# systemctl enable haproxy   #设置自启动
[root@server2 ~]# ln -s /usr/local/sbin/haproxy /usr/sbin/haproxy   #把命令链接出来方便使用
[root@server2 ~]# systemctl start haproxy     #启动

2.42 keepalived配置

放入keepalived-2.0.13.tar软件包

[root@server2 ~]# yum -y install gcc gcc-c++ make popt-devel kernel-devel openssl-devel   #安装依赖包
[root@server2 ~]# tar zxvf keepalived-2.0.13.tar.gz      #解压缩keepalived软件包
[root@server2 ~]# cd keepalived-2.0.13/
[root@server2 keepalived-2.0.13]# ./configure --prefix=/    #配置
[root@server2 keepalived-2.0.13]# make && make install   #编译与安装
[root@server2 keepalived-2.0.13]# cp keepalived/etc/init.d/keepalived /etc/init.d     #把keepalived加入系统管理服务
[root@server2 keepalived-2.0.13]# cd
[root@server2 ~]# systemctl enable keepalived.service     #设置开机自启
[root@server2 ~]# vim /etc/keepalived/keepalived.conf     #删除所有配置，重新添加
! Configuration File for keepalived
global_defs {
     router_id lvs_02                               #本服务器的名称
}
vrrp_instance vi_1 {                              #定义VRRP热备实例
    state BACKUP                                  #热备状态，MASTER（主服务器）
    interface ens33                                #承载VIP地址的物理接口
    virtual_router_id 51                          #虚拟路由器的ID号，每个热备组保持一致
    priority 105                                       #优先级，数值越大优先级越高
    advert_int 1                                      #通告间隔秒数
    authentication {                                #热备认证信息，每个热备组保持一致
          auth_type PASS                        #认证类型
          auth_pass 6666                        #密码字符串
    }
     virtual_ipaddress {                         #指定漂移地址（VIP）
         192.168.100.100
}
}

[root@server2 ~]# systemctl start keepalived.service    #启动服务
[root@server2 ~]# ip addr

在这里插入图片描述

2.5 nginx1服务器配置

放入nginx-1.12.2.tar软件包

[root@server3 ~]# systemctl stop firewalld
[root@server3 ~]# setenforce 0
[root@server3 ~]# yum -y install gcc gcc-c++ make pcre-devel zlib-devel
[root@server3 ~]# tar zxvf nginx-1.12.2.tar.gz
[root@server3 ~]# useradd -M -s /sbin/nologin nginx  #创建不带宿主，不可登录nginx用户
[root@server3 ~]# cd nginx-1.12.2
[root@server3 nginx-1.12.2]# ./configure --prefix=/usr/local/nginx  --user=nginx --group=nginx
[root@server3 nginx-1.12.2]# make && make install  #编译安装nginx
[root@server3 nginx-1.12.2]# cd
[root@server3 ~]# echo "<h1>Nginx1</h1>" > /usr/local/nginx/html/index.html    #创建首页内容
[root@server3 ~]# ln -s /usr/local/nginx/sbin/nginx /usr/local/sbin    #命令链接，方便使用
[root@server3 ~]# nginx     #开启
[root@server3 ~]# netstat -anpt | grep nginx
tcp        0      0 0.0.0.0:80              0.0.0.0:*               LISTEN      57499/nginx: master

2.6 nginx2服务器配置

放入nginx-1.12.2.tar软件包

[root@server4 ~]# systemctl stop firewalld
[root@server4 ~]# setenforce 0
[root@server4 ~]# yum -y install gcc gcc-c++ make pcre-devel zlib-devel
[root@server4 ~]# tar zxvf nginx-1.12.2.tar.gz
[root@server4 ~]# useradd -M -s /sbin/nologin nginx  #创建不带宿主，不可登录nginx用户
[root@server4 ~]# cd nginx-1.12.2
[root@server4 nginx-1.12.2]# ./configure --prefix=/usr/local/nginx  --user=nginx --group=nginx
[root@server4 nginx-1.12.2]# make && make install  #编译安装nginx
[root@server4 nginx-1.12.2]# cd
[root@server4 ~]# echo "<h1>Nginx2</h1>" > /usr/local/nginx/html/index.html    #创建首页内容
[root@server4 ~]# ln -s /usr/local/nginx/sbin/nginx /usr/local/sbin    #命令链接，方便使用
[root@server4 ~]# nginx     #开启
[root@server4 ~]# netstat -anpt | grep nginx
tcp        0      0 0.0.0.0:80              0.0.0.0:*               LISTEN      59567/nginx: master

2.7 访问测试

浏览器输入：http://192.168.100.100
在这里插入图片描述

等待后刷新
在这里插入图片描述

客户机解析
在这里插入图片描述

三、haproxy日志管理（主备服务器都配置）

[root@server1 ~]# vi /etc/haproxy/haproxy.cfg
修改：
global
        log /dev/log    local0 info    #启用本地日志，级别info
        log /dev/log    local0 notice

[root@server1 ~]# systemctl restart haproxy      #重启服务，记录日志
[root@server1 ~]# vi /etc/rsyslog.d/haproxy.conf

添加：
if ($programname == 'haproxy' and $syslogseverity-text == 'info')    #如果程序是haproxy，并且日志类型是info
then -/var/log/haproxy/haproxy-info.log    #则创建一个日志
&~
if ($programname == 'haproxy' and $syslogseverity-text == 'notice')
then -/var/log/haproxy/haproxy-notice.log
&~

[root@server1 ~]# systemctl restart rsyslog
[root@server1 ~]# systemctl restart haproxy
[root@server1 ~]# cd /var/log/haproxy/
[root@server1 haproxy]# ll   #查看
总用量 8
-rw-------. 1 root root 329 12月 11 02:52 haproxy-info.log    #haproxy调度信息
-rw-------. 1 root root 132 12月 11 02:52 haproxy-notice.log   #haproxy启动信息

在这里插入图片描述

关闭主服务器后,漂移ip由备份服务器承担，继续工作
[root@server1 ~]# systemctl stop keepalived
在这里插入图片描述

在备服务器上查看日志
[root@server2 ~]# cd /var/log/haproxy/
[root@server2 haproxy]# tail -100 /var/log/messages
在这里插入图片描述
[root@server2 haproxy]# cat haproxy-info.log
[root@server2 haproxy]# cat haproxy-notice.log

康丶

关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
服务器群集—Haproxy+keepalived群集

目录一、Haproxy1.1 常见的Web集群调度器1.2 Haproxy应用分析1.3 Haproxy调度算法原理（RR；LC；SH）1.4 Haproxy安装与启动1.5 Haproxy配置文件详解1.51 global配置参数1.52 defaults配置项配置默认参数1.53 listen配置项目一般为配置应用模块参数1.6 Haproxy参数优化二、haproxy+keepalived集群配置2.1 haproxy+keepalived优点2.2 项目环境2.3 主服务器配置2.31 haprox
复制链接

扫一扫