高可用集群KEEPALIVED及企业级反向代理HAproxy

最新推荐文章于 2023-11-11 11:32:00 发布

GRAGON_W

最新推荐文章于 2023-11-11 11:32:00 发布

阅读量1.5k

点赞数

文章标签：网络运维 haproxy

本文链接：https://blog.csdn.net/GRAGON_W/article/details/122204491

版权

本文介绍了Keepalived的工作原理，包括Layer3、Layer4和Layer5的检测机制，以及在服务器状态异常时的处理方式。接着详细讲述了HAProxy的编译安装过程，并探讨了其基于lua的扩展能力。文章重点分析了HAProxy的各种调度算法，如static-rr、first、roundrobin、leastconn和random等，以及它们的应用场景。最后，提到了使用haproxy的ACL功能实现基于文件后缀名的动静分离。

摘要由CSDN通过智能技术生成

一、简述keepalived工作原理

keepalived是一个类似于layer3, 4 & 5交换机制的软件，也就是我们平时说的第3层、第4层和第5层交换。Keepalived是自动完成，不需人工干涉。
Keepalived的作用是检测服务器的状态，如果有一台web服务器宕机，或工作出现故障，Keepalived将检测到，并将有故障的服务器从系统中剔除，同时使用其他服务器代替该服务器的工作，当服务器工作正常后Keepalived自动将服务器加入到服务器群中，这些工作全部自动完成，不需要人工干涉，需要人工做的只是修复故障的服务器。
Layer3,4,5工作在IP/TCP协议栈的IP层，TCP层，及应用层,原理分别如下：
Layer3：Keepalived使用Layer3的方式工作式时，Keepalived会定期向服务器群中的服务器发送一个ICMP的数据包（既我们平时用的Ping程序）,如果发现某台服务的IP地址没有激活，Keepalived便报告这台服务器失效，并将它从服务器群中剔除，这种情况的典型例子是某台服务器被非法关机。Layer3的方式是以服务器的IP地址是否有效作为服务器工作正常与否的标准。

Layer4:如。Layer4主要以TCP端口的状态来决定服务器工作正常与否。如web server的服务端口一般是80，如果Keepalived检测到80端口没有启动，则Keepalived将把这台服务器从服务器群中剔除。

Layer5：Layer5对指定的URL执行HTTP GET。然后使用MD5算法对HTTP GET结果进行求和。如果这个总数与预期值不符，那么测试是错误的，服务器将从服务器池中移除。该模块对同一服务实施多URL获取检查。此功能使您能够检查应用程序服务器是否正常工作。MD5摘要是使用genhash实用程序（包含在keepalived软件包中）生成的。SSL_GET与HTTP_GET相同，但使用SSL连接到远程Web服务器。
MISC_CHECK：此检查允许用户定义的脚本作为运行状况检查程序运行。结果必须是0或1.该脚本在导演盒上运行，这是测试内部应用程序的理想方式。可以使用完整路径（即/path_to_script/script.sh）调用可以不带参数运行的脚本。那些需要参数的需要用双引号括起来（即“/path_to_script/script.sh arg 1 … arg n”）

二、编译安装haproxy

环境centos7
HAProxy 支持基于lua实现功能扩展，lua是一种小巧的脚本语言，于1993年由巴西里约热内卢天主教大学（Pontifical Catholic University of Rio de Janeiro）里的一个研究小组开发，其设计目的是为了嵌入应用程序中，从而为应用程序提供灵活的扩展和定制功能。

Lua 应用场景

游戏开发
独立应用脚本
Web 应用脚本
扩展和数据库插件，如MySQL
Proxy 安全系统，如入侵检测系统

由于CentOS7 之前版本自带的lua版本比较低并不符合HAProxy要求的lua最低版本(5.3)的要求，因此需要编译安装较新版本的lua环境，然后才能编译安装HAProxy，过程如下：

[root@Centos7 ~]# lua -v
Lua 5.1.4  Copyright (C) 1994-2008 Lua.org, PUC-Rio

可参考官网
在这里插入图片描述

#编译安装基础命令及环境
[root@Centos7 ~]# yum install gcc readline-devel
[root@Centos7 ~]# curl -R -O http://www.lua.org/ftp/lua-5.3.5.tar.gz
[root@Centos7 lua-5.3.5]# tar zxf lua-5.3.5.tar.gz
[root@Centos7 lua-5.3.5]# cd lua-5.3.5/
[root@Centos7 lua-5.3.5]# make all test
#查看编译安装的版本
[root@Centos7 lua-5.3.5]# src/lua -v
Lua 5.3.5  Copyright (C) 1994-2021 Lua.org, PUC-Rio

编译安装haproxy-2.5

[root@Centos7 ~]# yum -y install gcc openssl-devel pcre-devel systemd-devel
[root@Centos7 ~]# tar xf haproxy-2.1.3.tar.gz -C /usr/local/src/
[root@Centos7 ~]# cd /usr/local/src/
[root@Centos7 src]# ls
haproxy-2.1.3
[root@Centos7 src]# cd haproxy-2.1.3/
[root@Centos7 haproxy-2.1.3]# make ARCH=x86_64 TARGET=linux-glibc \
 USE_PCRE=1 USE_OPENSSL=1 USE_ZLIB=1 USE_SYSTEMD=1 USE_LUA=1 \
 LUA_INC=/root/lua-5.3.5/src/ LUA_LIB=/root/lua-5.3.5/src/ 
 [root@Centos7 haproxy-2.1.3]# make install PREFIX=/apps/haproxy
[root@Centos7 ~]# ln -s /apps/haproxy/sbin/haproxy /usr/bin/
[root@Centos7 ~]# haproxy -v
HA-Proxy version 2.1.3 2020/02/12 - https://haproxy.org/
Status: stable branch - will stop receiving fixes around Q1 2021.
Known bugs: http://www.haproxy.org/bugs/bugs-2.1.3.html

准备程序启动相关文件

#服务启动文件
[root@Centos7 ~]# cat /usr/lib/systemd/system/ha
halt-local.service  halt.target         halt.target.wants/  haproxy.service     
[root@Centos7 ~]# cat /usr/lib/systemd/system/ha
halt-local.service  halt.target         halt.target.wants/  haproxy.service     
[root@Centos7 ~]# cat /usr/lib/systemd/system/haproxy.service 
[Unit]
Description=HAProxy Load Balancer
After=syslog.target network.target

[Service]
ExecStartPre=/usr/bin/haproxy -f /etc/haproxy/haproxy.cfg -c -q
ExecStart=/usr/bin/haproxy -Ws -f /etc/haproxy/haproxy.cfg -p /var/lib/haproxy/haproxy.pid
ExecReload=/bin/kill -USR2 $MAINPID
LimitNOFILE=100000

[Install]
WantedBy=multi-user.target

#配置文件
[root@Centos7 ~]# cat /etc/haproxy/haproxy.cfg 
global
  maxconn 100000
  chroot /apps/haproxy
  stats socket /var/lib/haproxy/haproxy.sock mode 600 level admin
  user haproxy
  group haproxy
  daemon
  #nbproc 4
  #cpu-map 1 0
  #cpu-map 2 1
  #cpu-map 3 2
  #cpu-map 4 3
  pidfile /var/lib/haproxy/haproxy.pid
  log 127.0.0.1 local2 info

defaults 
  option http-keep-alive
  option forwardfor
  maxconn 100000
  mode http 
  timeout connect 300000ms
  timeout client  300000ms
  timeout server  300000ms

listen stats
  mode http
  bind 0.0.0.0:9999
  stats enable
  log global
  stats uri /haproxy-status
  stats auth haadmin:123456
  
listen web_port 
  bind 10.0.0.7:80
  mode http
  log global
  server web1 127.0.0.1:80 check inter 3000 fall 2 rise 5

#准备socket文件目录
[root@centos7 ~]# mkdir /var/lib/haproxy
#设置用户和目录权限
[root@centos7 ~]# useradd -r -s /sbin/nologin -d /var/lib/haproxy haproxy
[root@centos7 ~]# systemctl enable --now haproxy

状态界面
在这里插入图片描述

三、总结haproxy各调度算法的实现方式及其应用场景

HAProxy通过固定参数 balance 指明对后端服务器的调度算法，该参数可以配置在listen或backend选项中。HAProxy的调度算法分为静态和动态调度算法，但是有些算法可以根据参数在静态和动态算法中相互转换。

3.1 静态算法

静态算法：按照事先定义好的规则轮询进行调度，不关心后端服务器的当前负载、连接数和响应速度等，且无法实时动态修改权重(只能为0和1,不支持其它值)或者修改后不生效，如果需要修改只能靠重启HAProxy生效。

3.1.1 static-rr

static-rr：基于权重的轮询调度，不支持运行时利用socat进行权重的动态调整(只支持0和1,不支持其它值)及后端服务器慢启动，其后端主机数量没有限制，相当于LVS中的 wrr。

[root@Centos8 ~]# cat /etc/haproxy/conf.d/test.cfg 
listen web 
  bind 10.0.0.8:80
  mode http
  balance static-rr
  server web1 10.0.0.7:80 check inter 3000 fall 2 rise 5
  server web2 10.0.0.17:80 check inter 3000 fall 2 rise 5

在这里插入图片描述

3.1.2 first

first：根据服务器在列表中的位置，自上而下进行调度，但是其只会当第一台服务器的连接数达到上限，新请求才会分配给下一台服务，因此会忽略服务器的权重设置，此方式使用较少不支持用socat进行动态修改权重,可以设置0和1,可以设置其它值但无效。

[root@Centos8 ~]# cat /etc/haproxy/conf.d/test.cfg 
listen web 
  bind 10.0.0.8:80
  mode http
  balance first
  server web1 10.0.0.7:80 check inter 3000 fall 2 rise 5
  server web2 10.0.0.17:80 check inter 3000 fall 2 rise 5

在这里插入图片描述

3.2 动态算法

动态算法：基于后端服务器状态进行调度适当调整，新请求将优先调度至当前负载较低的服务器，且权重可以在haproxy运行时动态调整无需重启。

3.2.1 roundrobin

roundrobin：基于权重的轮询动态调度算法，支持权重的运行时调整，不同于lvs中的rr轮训模式，HAProxy中的roundrobin支持慢启动(新加的服务器会逐渐增加转发数)，其每个后端backend中最多支持4095个real server，支持对real server权重动态调整，roundrobin为默认调度算法,此算法使用广泛。

[root@Centos8 ~]# cat /etc/haproxy/conf.d/test.cfg 
listen web 
  bind 10.0.0.8:80
  mode http
  balance roundrobin
  server web1 10.0.0.7:80 weight 1 check inter 3000 fall 2 rise 5
  server web2 10.0.0.17:80 weight 3 check inter 3000 fall 2 rise 5

在这里插入图片描述

3.2.2 leastconn

leastconn 加权的最少连接的动态，支持权重的运行时调整和慢启动，即:根据当前连接最少的后端服务器而非权重进行优先调度(新客户端连接)，比较适合长连接的场景使用，比如MySQL等场景。

3.2.3 random

在1.9版本开始增加 random的负载平衡算法，其基于随机数作为一致性hash的key，随机负载平衡对于大型服务器场或经常添加或删除服务器非常有用，支持weight的动态调整，weight较大的主机有更大概率获取新请求。

3.3 其他算法

3.3.1 source

源地址hash，基于用户源地址hash并将请求转发到后端服务器，后续同一个源地址请求将被转发至同一个后端web服务器。此方式当后端服务器数据量发生变化时，会导致很多用户的请求转发至新的后端服务器，默认为静态方式，但是可以通过hash-type选项进行更改这个算法一般是在不插入Cookie的TCP模式下使用，也可给不支持会话cookie的客户提供最好的会话粘性，适用于session会话保持但不支持cookie和缓存的场景源地址有两种转发客户端请求到后端服务器的服务器选取计算方式，分别是取模法和一致性hash。
map-based：取模法，对source地址进行hash计算，再基于服务器总权重的取模，最终结果决定将此请求转发至对应的后端服务器。此方法是静态的，即不支持在线调整权重，不支持慢启动，可实现对后端服务器均衡调度。缺点是当服务器的总权重发生变化时，即有服务器上线或下线，都会因总权重发生变化而导致调度结果整体改变，hash-type 指定的默认值为此算法。

一致性hash，当服务器的总权重发生变化时，对调度结果影响是局部的，不会引起大的变动，hash（o）mod n ，该hash算法是动态的，支持使用 socat等工具进行在线权重调整，支持慢启动。

3.3.2 uri

基于对用户请求的URI的左半部分或整个uri做hash，再将hash结果对总权重进行取模后，根据最终结果
将请求转发到后端指定服务器，适用于后端是缓存服务器场景，默认是静态算法，也可以通过hash-type
指定map-based和consistent，来定义使用取模法还是一致性hash。

3.3.3 url_param

url_param对用户请求的url中的 params 部分中的一个参数key对应的value值作hash计算，并由服务器总权重相除以后派发至某挑出的服务器；通常用于追踪用户，以确保来自同一个用户的请求始终发往同一个real server，如果无没key，将按roundrobin算法。

 [root@Centos8 ~]# cat /etc/haproxy/conf.d/test.cfg 
listen web 
  bind 10.0.0.8:80
  mode http
  balance url_param userid
  hash-type consistent
  server web1 10.0.0.7:80 weight 1 check inter 3000 fall 2 rise 5
  server web2 10.0.0.17:80 weight 1 check inter 3000 fall 2 rise 5

在这里插入图片描述

3.3.4 hdr

针对用户每个http头部(header)请求中的指定信息做hash，此处由 name 指定的http首部将会被取出并做hash计算，然后由服务器总权重取模以后派发至某挑出的服务器，如果无有效值，则会使用默认的轮询调度。在这里插入图片描述

[root@Centos8 ~]# cat /etc/haproxy/conf.d/test.cfg 
listen web 
  bind 10.0.0.8:80
  mode http
  balance hdr(User-Agent_)
  hash-type consistent 
  server web1 10.0.0.7:80 weight 1 check inter 3000 fall 2 rise 5
  server web2 10.0.0.17:80 weight 1 check inter 3000 fall 2 rise 5

3.3.5 rdp-cookie

rdp-cookie对远windows远程桌面的负载，使用cookie保持会话，默认是静态，也可以通过hash-type指定map-based和consistent，来定义使用取模法还是一致hash。

四、使用haproxy的ACL实现基于文件后缀名的动静分离

[root@Centos8 ~]# cat /etc/haproxy/conf.d/test.cfg 
frontend web 
  bind 10.0.0.8:80
  mode http
  balance roundrobin

  acl acl_static path_end -i .jpg .jpeg .png .gif .css .js .html
  acl acl_php path_end -i .php
  use_backend mobiles_hosts if acl_static
  use_backend app_hosts if acl_php
  default_backend pc_hosts

  backend mobiles_hosts
    mode http 
    server web1 10.0.0.7:80 weight 1 check inter 3000 fall 2 rise 5
  
  backend app_hosts
    mode http
    server web2 10.0.0.17:80 weight 1 check inter 3000 fall 2 rise 5
   
  backend pc_hosts
    mode http
    server web2 10.0.0.17:80 weight 1 check inter 3000 fall 2 rise 5

静态页面
在这里插入图片描述
动态及默认页面

[root@Centos7 ~]# cat /var/www/html/test.php
<?php
echo "<h1>http://10.0.0.27/test.php</h1>\n";
?>

在这里插入图片描述

GRAGON_W

关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
高可用集群KEEPALIVED及企业级反向代理HAproxy

一、简述keepalived工作原理二、编译安装haproxy环境centos7HAProxy 支持基于lua实现功能扩展，lua是一种小巧的脚本语言，于1993年由巴西里约热内卢天主教大学（Pontifical Catholic University of Rio de Janeiro）里的一个研究小组开发，其设计目的是为了嵌入应用程序中，从而为应用程序提供灵活的扩展和定制功能。Lua 应用场景游戏开发独立应用脚本Web 应用脚本扩展和数据库插件，如MySQLProxy 安全系统，如入
复制链接

扫一扫