haproxy

haproxy简介

HAProxy是一个使用C语言编写的自由及开放源代码软件，其提供高可用性、负载均衡，以及基于TCP和HTTP的应用程序代理。

HAProxy特别适用于那些负载特大的web站点，这些站点通常又需要会话保持或七层处理。HAProxy运行在当前的硬件上，完全可以支持数以万计的并发连接。并且它的运行模式使得它可以很简单安全的整合进您当前的架构中， 同时可以保护你的web服务器不被暴露到网络上。

HAProxy实现了一种事件驱动, 单一进程模型，此模型支持非常大的并发连接数。多进程或多线程模型受内存限制 、系统调度器限制以及无处不在的锁限制，很少能处理数千并发连接。事件驱动模型因为在有更好的资源和时间管理的用户空间(User-Space) 实现所有这些任务，所以没有这些问题。此模型的弊端是，在多核系统上，这些程序通常扩展性较差。这就是为什么他们必须进行优化以 使每个CPU时间片(Cycle)做更多的工作。

包括 GitHub、Bitbucket、Stack Overflow、Reddit、Tumblr、Twitter和 Tuenti在内的知名网站，及亚马逊网络服务系统都使用了HAProxy。

负载均衡

二层负载均衡（mac）
用于虚拟mac地址方式，外部对虚拟mac地址请求，负载均衡接收后分配给后端实际的mac地址响应。

三层负载均衡（ip）
一般用于虚拟ip地址的方式，外部对虚拟ip地址请求，负载均衡接收后分配给后端实际的ip地址响应。

四层负载均衡（tcp）
在三层负载均衡的基础上，用ip+port接收请求，在转发到对应的机器上。
产品大概有：F5，lvs，nginx，haproxy…

七层负载均衡（http）
根据虚拟的url或者ip，主机名接收请求，在转发到相应的处理服务

haproxy配置

前期配置：

[root@node1 ~]# hostnamectl hostname HAProxy
[root@node1 ~]# bash
[root@HAProxy ~]# 

[root@node1 ~]# hostnamectl hostname res1
[root@node1 ~]# bash
[root@res1 ~]# 

[root@node1 ~]# hostnamectl hostname res2
[root@node1 ~]# bash
[root@res2 ~]# 
三台时钟同步
[root@HAProxy ~]# yum -y install chrony
[root@HAProxy ~]# systemctl restart chronyd
[root@HAProxy ~]# systemctl enable chronyd
[root@HAProxy ~]# hwclock -w
[root@HAProxy ~]# timedatectl 
               Local time: Fri 2024-08-23 10:27:24 CST
           Universal time: Fri 2024-08-23 02:27:24 UTC
                 RTC time: Fri 2024-08-23 02:27:24
                Time zone: Asia/Shanghai (CST, +0800)
System clock synchronized: yes
              NTP service: active
          RTC in local TZ: no
[root@HAProxy ~]# 

开始配置：

[root@res1 ~]# yum -y install httpd
[root@res2 ~]# yum -y install httpd

[root@res1 ~]# echo rs1 > /var/www/html/index.html
[root@res1 ~]# systemctl restart httpd
[root@res1 ~]# systemctl enable httpd
Created symlink /etc/systemd/system/multi-user.target.wants/httpd.service → /usr/lib/systemd/system/httpd.service.
[root@res1 ~]# 
[root@res2 ~]# echo rs2 > /var/www/html/index.html
[root@res2 ~]# systemctl restart httpd
[root@res2 ~]# systemctl enable httpd
Created symlink /etc/systemd/system/multi-user.target.wants/httpd.service → /usr/lib/systemd/system/httpd.service.
[root@res2 ~]# 

[root@HAProxy ~]# yum -y install lrzsz net-tools tar

[root@HAProxy ~]# useradd -r -M -s /sbin/nologin haproxy
[root@HAProxy ~]# id haproxy 
uid=996(haproxy) gid=993(haproxy) groups=993(haproxy)

[root@HAProxy ~]#  yum -y install make gcc pcre-devel bzip2-devel openssl-devel systemd-devel gcc-c++ zlib-devel lua

[root@HAProxy ~]# tar -xzvf haproxy-3.0.3.tar.gz
[root@HAProxy ~]# ls
anaconda-ks.cfg  -e  haproxy-3.0.3  haproxy-3.0.3.tar.gz  -i.bak

[root@HAProxy ~]# cd haproxy-3.0.3/
[root@HAProxy haproxy-3.0.3]# ls
addons  BRANCHES     CHANGELOG     dev  examples  INSTALL  MAINTAINERS  README     scripts  SUBVERS  VERDATE
admin   BSDmakefile  CONTRIBUTING  doc  include   LICENSE  Makefile     reg-tests  src      tests    VERSION
[root@HAProxy haproxy-3.0.3]# mkdir  clean  //创建目录
[root@HAProxy haproxy-3.0.3]# ls
addons  BRANCHES     CHANGELOG  CONTRIBUTING  doc       include  LICENSE      Makefile  reg-tests  src      tests    VERSION
admin   BSDmakefile  clean      dev           examples  INSTALL  MAINTAINERS  README    scripts    SUBVERS  VERDATE
[root@HAProxy haproxy-3.0.3]# 

[root@HAProxy haproxy-3.0.3]# grep processor /proc/cpuinfo
processor	: 0
[root@HAProxy haproxy-3.0.3]# grep processor /proc/cpuinfo | wc -l
1
[root@HAProxy haproxy-3.0.3]#  make -j $(grep 'processor' /proc/cpuinfo |wc -l)  \
> TARGET=linux-glibc  \
>  USE_OPENSSL=1  \
>  USE_ZLIB=1  \
>  USE_PCRE=1  \
>  USE_SYSTEMD=1

[root@HAProxy haproxy-3.0.3]# make install PREFIX=/usr/local/haproxy
[root@HAProxy haproxy-3.0.3]# cp haproxy  /usr/sbin/

[root@HAProxy haproxy-3.0.3]# vim /etc/sysctl.conf 
[root@HAProxy haproxy-3.0.3]# sysctl -p
net.ipv4.ip_nonlocal_bind = 1
net.ipv4.ip_forward = 1
[root@HAProxy haproxy-3.0.3]# 

[root@HAProxy haproxy-3.0.3]# mkdir /etc/haproxy
[root@HAProxy haproxy-3.0.3]#  vim /etc/haproxy/haproxy.cfg
[root@HAProxy haproxy-3.0.3]# cat /etc/haproxy/haproxy.cfg 
global
    log 127.0.0.1 local0  info
    #log loghost local0 info
    maxconn 20480
#chroot /usr/local/haproxy
    pidfile /var/run/haproxy.pid
    #maxconn 4000
    user haproxy
    group haproxy
    daemon
#---------------------------------------------------------------------
#common defaults that all the 'listen' and 'backend' sections will
#use if not designated in their block
#---------------------------------------------------------------------
defaults
    mode http
    log global
    option dontlognull
    option httpclose
    option httplog
    #option forwardfor
    option redispatch
    balance roundrobin
    timeout connect 10s
    timeout client 10s
    timeout server 10s
    timeout check 10s
    maxconn 60000
    retries 3
#--------------统计页面配置------------------
listen admin_stats
    bind 0.0.0.0:8189
    stats enable
    mode http
    log global
    stats uri /haproxy_stats
    stats realm Haproxy\ Statistics
    stats auth admin:admin
    #stats hide-version
    stats admin if TRUE
    stats refresh 30s
#---------------web设置-----------------------
listen webcluster
    bind 0.0.0.0:80
    mode http
    #option httpchk GET /index.html
    log global
    maxconn 3000
    balance roundrobin
    cookie SESSION_COOKIE insert indirect nocache
    //添加下面两行
    server rs1 192.168.100.20:80 check 
    server rs2 192.168.100.30:80 check
[root@HAProxy haproxy-3.0.3]# 

[root@HAProxy ~]# vim /usr/lib/systemd/system/haproxy.service
[root@HAProxy ~]# cat /usr/lib/systemd/system/haproxy.service
Description=HAProxy Load Balancer
After=syslog.target network.target

[Service]
ExecStartPre=/usr/local/haproxy/sbin/haproxy -f /etc/haproxy/haproxy.cfg   -c -q
ExecStart=/usr/local/haproxy/sbin/haproxy -Ws -f /etc/haproxy/haproxy.cfg  -p /var/run/haproxy.pid
ExecReload=/bin/kill -USR2 $MAINPID

[Install]
WantedBy=multi-user.target
[root@HAProxy ~]# 

[root@HAProxy haproxy-3.0.3]# make install PREFIX=/usr/local/haproxy/
[root@HAProxy haproxy-3.0.3]# ls /usr/local/
bin  etc  games  haproxy  include  lib  lib64  libexec  sbin  share  src

[root@HAProxy ~]# systemctl restart haproxy
[root@HAProxy ~]# systemctl enable haproxy
Created symlink /etc/systemd/system/multi-user.target.wants/haproxy.service → /usr/lib/systemd/system/haproxy.service.
[root@HAProxy ~]# 

验证：
[root@node1 ~]# curl http://192.168.100.10:80
rs1
[root@node1 ~]# curl http://192.168.100.10:80
rs2
[root@node1 ~]# 

关于/etc/haproxy/haproxy.cfg 配置文件解析

//配置文件解析
haproxy 的配置文件由两部分组成：全局设定和对代理的设定，共分为五段：global，defaults，frontend，backend，listen
global: 全局配置，主要用于定义全局参数，属于进程级的配置，通常和操作系统配置有关。
default: 配置默认参数，这些参数可以被用到frontend，backend，Listen组件。
frontend：接收请求的前端虚拟节点，frontend可以指定具体使用后端的backend。
backend : 后端服务集群的配置，真实服务器，一个backend对应一个或者多个实体服务器。
listen: fronted和backend的组合体，比如haproxy实例状态监控部分配置。Haproxy1.3之前的唯一配置方式。
//时间格式
一些包含了值的参数表示时间，如超时时长。这些值一般以毫秒为单位，但也可以使用其它的时间单位后缀
us: 微秒(microseconds)，即1/1000000秒；
ms: 毫秒(milliseconds)，即1/1000秒；
s: 秒(seconds)；
m: 分钟(minutes)；
h：小时(hours)；
d: 天(days)；

//全局global配置
global
    log 127.0.0.1 local0  info    //定义haproxy日志输出设置
    #log loghost local0 info    //定义haproxy日志级别
    maxconn 20480         //定义最大连接数
#chroot /usr/local/haproxy    //chroot运行路径
    pidfile /var/run/haproxy.pid  //haproxy进程PID文件
    #maxconn 4000       
    user haproxy        //运行haproxy用户，可用uid代替
    group haproxy      //运行haproxy用户组，可用gid代替
daemon          //以后台形式运行haproxy

级别		代码		描述
energ	 0		系统不可用
alert	 1		必须马上采取行动的事件
crit	 2		关键的事件
err		 3		错误事件
warning	 4		警告事件
notice	 5		普通但重要的事件
info	 6		有用的信息
debug	 7		调试信息

//defaults配置
用于设置配置默认参数，这些参数可以被用到frontend，backend，listen组件。
在此部分中设置的参数值，默认会自动引用到下面的frontend、backend、listen部分中。如果某些参数属于公用的配置，只需要在defaults部分添加一次即可。而如果frontend、backend、listen部分也配置了与defaults部分一样的参数，defaults部分参数对应的值自动被覆盖。
defaults
    mode http   //所处理的类别（7层代理http，4层代理tcp）
    log global   //引入global定义的日志格式
    option dontlognull   //不记录健康检查日志信息
    option httpclose  //每次请求完毕后主动关闭http通道,haproxy不支持keep-alive模式
    option httplog  //日志类别为http日志格式
    #option forwardfor  //如果后端服务器需要获取客户端的真实ip，需要配置的参数，可以从http header中获取客户端的ip
    option redispatch
    balance roundrobin  //设置默认负载均衡方式，轮询方式
    timeout connect 10s  //默认连接超时时间
    timeout client 10s   //默认客户端超时时间
    timeout server 10s  //默认服务器超时时间
    timeout check 10s  //设置超时检查超时时间 
    maxconn 60000  //最大连接数
    retries 3   //3次连接失败就认为服务器不可用，也可以通过后面设置

mode http：设置haproxy的运行模式，有三种｛http|tcp|health｝。注意：如果haproxy中还要使用4层的应用（mode tcp）的话，不建议在此定义haproxy的运行模式。

tcp模式：在此模式下，客户端和服务器端之前将建立一个全双工的连接，不会对七层报文做任何检查，默认为tcp模式，经常用于SSL、SSH、SMTP等应用。
http模式：在此模式下，客户端请求在转发至后端服务器之前将会被深度分板，所有不与RFC格式兼容的请求都会被拒绝。
health：已基本不用了。

//frontend配置
frontend是在haproxy 1.3版本以后才引入的一个组件，同时引入的还有backend组件。通过引入这些组件，在很大程度上简化了haproxy配置文件的复杂性。forntend可以根据ACL规则直接指定要使用的后端backend。
如：
frontend http_80_in 
bind 0.0.0.0:80   //设置侦听端口，即haproxy提供的web服务端口，和lvs的vip类似
mode http	
log  global   
 	option httpclose  
    option httplog  
option forwardfor
default_backend  wwwpool  //设置请求默认转发的后端服务池

//backend配置
用来定义后端服务集群的配置，真实服务器，一个Backend对应一个或者多个实体服务器
backend  wwwpool    //定义wwwpool服务器组
mode  http
option  redispath
option  abortonclose
balancer  source   //负载均衡的方式，源哈希算法
cookie  SERVERID  //允许插入serverid到cookie中，serverid后面可以定义
option  httpdchk  GET  /test.html    //心跳测试
server  web1  10.1.1.2:80  cookie  2 weight  3  check  inter 2000  rise 2 fall 3 maconn 8


//listen配置
常常用于状态页面监控，以及后端server检查，是Fronted和backend的组合体。
listen admin_stats     //frontend和backend的组合体，监控组的名称，按需自定义名称
    bind 0.0.0.0:8189      //侦听端口
    stats enable      //开启监控
    mode http
    log global
    stats uri /haproxy_stats    //监控页面的url访问路径
    stats realm Haproxy\ Statistics  //监控页面的提示信息
    stats auth admin:admin  //监控页面的用户和密码
    #stats hide-version   //隐藏统计页面上的haproxy版本信息
    stats admin if TRUE  //手工启用/禁用，后端服务器haproxy
    stats refresh 30s   //每个30秒自动刷新监控页面