目录
Haproxy简介
四层:
-
LVS:Linux Virtual Server
-
Nginx:1.9版之后
-
HAProxy:High Availability Proxy
七层:
-
HAProxy
-
Nginx
硬件:
-
Netscaler Citrix ADC - 混合多云应用交付控制器 - Citrix China
-
Array 北京华耀科技有限公司
HAProxy起源
HAProxy是法国开发者威利塔罗(Willy Tarreau)在2000年使用C语言开发的一个开源软件,是一款具
备高并发(一万以上)、高性能的TCP和HTTP负载均衡器,支持基于cookie的持久性,自动故障切换,支
持正则表达式及web状态统计,目前最新TLS版本为2.2。
HAProxy是可提供高可用性、负载均衡以及基于TcP和HTTP应用的代理,是免费、快速并且可靠的一种解决方案。HProxy非常适用于并发大(并发达1w以上) web站点,这些站点通常又需要会话保持或七层处理。HAProxy的运行模式使得它可以很简单安全的整合至当前的架构中,同时可以保护web服务器不被暴露到网络上。
支持功能
-
TCP 和 HTTP反向代理
-
SSL/TSL服务器
-
可以针对HTTP请求添加cookie,进行路由后端服务器
-
可平衡负载至后端服务器,并支持持久连接
-
支持所有主服务器故障切换至备用服务器
-
支持专用端口实现监控服务
-
支持停止接受新连接请求,而不影响现有连接
-
可以在双向添加,修改或删除HTTP报文首部
-
响应报文压缩
-
支持基于pattern实现连接请求的访问控制
-
通过特定的URI为授权用户提供详细的状态信息
HAProxy的主要特性有:
-
可靠性和稳定性非常好,可以与硬件级的F5负载均衡设备相媲美;
-
最高可以同时维护40000-50000个并发连接,单位时间内处理的最大请求数为20000个,最大处理能力可达10Git/s;
-
支持多达8种负载均衡算法,同时也支持会话保持;
-
支持虚拟机主机功能,从而实现web负载均衡更加灵活;
-
支持连接拒绝、全透明代理等独特的功能;
-
拥有强大的ACL支持,用于访问控制;
-
其独特的弹性二义树数据结构,使数据结构的复杂性上升到了0(1),即数据的查寻速度不会随着数据条日的增加而速度有所下降;·支持客户端的keepalive功能,减少客户端与haproxy的多次三次握手导致资源浪费,让多个请求在一个tcp连接中完成;
-
支持TCP加速,零复制功能,类似于mmap机制;
-
支持响应池(response buffering) ;
-
支持RDP协议;
-
基于源的粘性,类似nginx的ip hash功能,把来自同一客户端的请求在一定时间内始终调度到上游的同一服务器;·更好统计数据接口,其web接口显示后端集群中各个服务器的接收、发送、拒绝、错误等数据的统计信息;
-
详细的健康状态检测,web接口中有关于对上游服务器的健康检测状态,并提供了一定的管理功能;
-
基于流量的健康评估机制;
-
基于http认证;
-
基于命令行的管理接口;
-
日志分析器,可对日志进行分析。
HAProxy负载均衡策略非常多,常见的有如下8种:
(1) roundrobin,表示简单的轮询
(2) static-rr,表示根据权重
(3) leastconn,表示最少连接者先处理
( 4) source,表示根据请求源IP
(5) uri,表示根据请求的URI,做cdn需使用;
(6) url param,表示根据请求的URl参数' balance url param’requires an URL parameter name
(7) hdr(name),表示根据HTTP请求头来锁定每一次HTTP请求;
(8) rdp-cookie (name),表示根据据cookie(name)来锁定并哈希每一次TCP请求。
LVS、Nginx、HAproxy的区别:
-
IVS基于Linux操作系统实现软负载均衡,而HAProxy和Nginx是基于第三方应用实现的软负载均衡;
-
LVS是可实现4层的IP负载均衡技术,无法实现基于目录、URL的转发。而HAProxy和Nginx都可以实现4层和7层技术,HAProxy可提供TCP和HTTP应用的负载均衡综合解决方案;
-
LVs因为工作在TCP模型的第四层,其状态监测功能单一,而HAProxy在状态监测方面功能更丰富、强大,可支持端口、URI等多种状态检测方式;
-
HAProxy功能强大,但整体性能低于4层模式的IVS负载均衡。
-
Ngrinx主要用于web服务器或缓存服务器。Nginx的upstream模块虽然也支持群集功能,但是对群集节点健康检查功能不强,性能没有Haproxy好。
配置文件详解
<span style="background-color:#f8f8f8"><span style="color:#333333"><span style="color:#3300aa">chroot</span> <span style="color:#aa5500">#锁定运行目录</span>
deamon <span style="color:#aa5500">#以守护进程运行,后台运行</span>
stats socket /var/lib/haproxy/haproxy.sock mode <span style="color:#116644">600</span> level admin process <span style="color:#116644">1</span>
<span style="color:#aa5500">#socket文件</span>
user, group, uid, gid <span style="color:#aa5500">#运行haproxy的用户身份</span>
nbproc n <span style="color:#aa5500">#开启的haproxy work 进程数,默认进程数是一个</span>
<span style="color:#aa5500">#nbthread 1 #和多进程 nbproc配置互斥(版本有关,CentOS8的haproxy1.8无此问题),指定每个haproxy进程开启的线程数,默认为每个进程一个线程</span>
<span style="color:#aa5500">#如果同时启用nbproc和nbthread 会出现以下日志的错误,无法启动服务Apr 714:46:23 haproxy haproxy: [ALERT] 097/144623 (1454) : config : cannot enable multiple processes if multiple threads are configured. Please use either nbproc or nbthread but not both.</span>
cpu-map <span style="color:#116644">10</span> <span style="color:#aa5500">#绑定haproxy worker 进程至指定CPU,将第1个work进程绑定至0号CPU</span>
cpu-map <span style="color:#116644">21</span> <span style="color:#aa5500">#绑定haproxy worker 进程至指定CPU,将第2个work进程绑定至1 号CPU</span>
maxconn n <span style="color:#aa5500">#每个haproxy进程的最大并发连接数</span>
maxsslconn n <span style="color:#aa5500">#每个haproxy进程ssl最大连接数,用于haproxy配置了证书的场景下</span>
maxconnrate n <span style="color:#aa5500">#每个进程每秒创建的最大连接数量</span>
spread-checks n <span style="color:#aa5500">#后端server状态check随机提前或延迟百分比时间,建议2-5(20%-50%)之间,默认值0</span>
pidfile <span style="color:#aa5500">#指定pid文件路径</span>
log <span style="color:#116644">127</span>.0.0.1 local2 info <span style="color:#aa5500">#定义全局的syslog服务器;日志服务器需要开启UDP协议,最多可以定义两个</span>
defaults
log global <span style="color:#aa5500">#引入global定义的日志格式</span>
mode http <span style="color:#aa5500">#模式为http(7层代理http,4层代理tcp)</span>
option httplog <span style="color:#aa5500">#日志类别为http日志格式 </span>
option dontlognull <span style="color:#aa5500">#不记录健康检查日志信息</span>
retries <span style="color:#116644">3</span> <span style="color:#aa5500">#检查节点服务器失败次数,连续达到3次,则反馈不可用 </span>
redispatch <span style="color:#aa5500">#当服务器负载很高时,自动结束当前队列处理比较久的连接</span>
maxconn <span style="color:#116644">2000</span> <span style="color:#aa5500">#最大连接数,此处的数值不能大于全局里的数值</span>
contimeout <span style="color:#116644">5000</span> <span style="color:#aa5500">#设置连接超时时间,默认单位是毫秒</span>
clitimeout <span style="color:#116644">50000</span> <span style="color:#aa5500">#设置客户端超时时间,默认单位是毫秒</span>
srvtimeout <span style="color:#116644">50000</span> <span style="color:#aa5500">#设置服务器超时时间,默认单位是毫秒</span>
<span style="color:#aa5500">#以下是新版本中的</span>
timeout http-request 10s <span style="color:#aa5500">#默认http请求超时时间</span>
timeout queue 1m <span style="color:#aa5500">#默认队列超时时间 </span>
timeout connect 10s <span style="color:#aa5500">#默认连接超时时间,新版本中替代</span>
timeout client 1m
timeout server 1m
timeout http-keep-alive
timeout check 10s
defaults [<name>] <span style="color:#aa5500">#默认配置项,针对以下的frontend、backend和listen生效,可以多个name也可以没有name</span>
frontend <name> <span style="color:#aa5500">#前端servername,类似于Nginx的一个虚拟主机 server和LVS服务集群。</span>
backend <name> <span style="color:#aa5500">#后端服务器组,等于nginx的upstream和LVS中的RS服务器</span>
listen <name> <span style="color:#aa5500">#将frontend和backend合并在一起配置,相对于frontend和backend配置更简</span>
洁,生产常用
使用listen替换 frontend和backend的配置方式,可以简化设置,通常只用于TCP协议的应用
<span style="color:#aa5500">#官网业务访问入口</span>
listen webcluster <span style="color:#116644">0</span>.0.0.0:80
option httpchk GET /test.html
balance roundrobin
server inst1 <span style="color:#116644">192</span>.168.91.102:80 check inter <span style="color:#116644">2000</span> fall <span style="color:#116644">3</span>
server inst2 <span style="color:#116644">192</span>.168.91.103:80 check inter <span style="color:#116644">2000</span> fall <span style="color:#116644">3</span></span></span>
实际操作
环境准备
<span style="background-color:#f8f8f8"><span style="color:#333333">haproxy服务器:192.168.91.100
http1:192.168.91.101
http2:192.168.91.102
setenforce <span style="color:#116644">0</span>
systemctl <span style="color:#3300aa">stop</span> firewalld
[root@master100 opt]<span style="color:#aa5500">#systemctl stop firewalld</span>
[root@master100 opt]<span style="color:#aa5500">#setenforce 0</span>
<span style="color:#aa5500">#传入安装包</span>
[root@localhost ~]<span style="color:#aa5500"># yum -y install pcre-devel bzip2-devel gcc gcc-c++ make</span>
[root@localhost opt]<span style="color:#aa5500"># tar xzvf haproxy-1.4.24.tar.gz </span>
[root@localhost opt]<span style="color:#aa5500"># cd haproxy-1.4.24/</span>
[root@localhost haproxy-1.4.24]<span style="color:#aa5500"># make TARGET=linux2628 ARCH=X86_64</span>
<span style="color:#aa5500">#内核版本</span>
[root@localhost haproxy-1.4.24]<span style="color:#aa5500"># make install</span>
[root@localhost haproxy-1.4.24]<span style="color:#aa5500">#mkdir /etc/haproxy</span>
[root@localhost haproxy-1.4.24]<span style="color:#aa5500">#cd examples/</span>
[root@localhost examples]<span style="color:#aa5500">#cp haproxy.cfg /etc/haproxy/</span>
[root@localhost examples]<span style="color:#aa5500">#cd /etc/haproxy/</span>
[root@localhost haproxy]<span style="color:#aa5500">#vim haproxy.cfg </span>
global
log /dev/log local0 info
<span style="color:#aa5500">###修改日志文件都是local0</span>
log /dev/log local0 notice
<span style="color:#aa5500">###修改日志文件都是local0</span>
<span style="color:#aa5500">#log loghost local0 info</span>
maxconn <span style="color:#116644">4096</span>
<span style="color:#aa5500">#chroot /usr/share/haproxy</span>
<span style="color:#aa5500">###注释掉根目录</span>
uid <span style="color:#116644">99</span>
gid <span style="color:#116644">99</span>
daemon
nbproc <span style="color:#116644">1</span>
<span style="color:#aa5500">###设置服务器1核</span>
<span style="color:#aa5500">#debug</span>
<span style="color:#aa5500">#quiet</span>
defaults
<span style="color:#aa5500">#此处配置默认即可</span>
log global
mode http
option httplog
option dontlognull
retries <span style="color:#116644">3</span>
redispatch
maxconn <span style="color:#116644">2000</span>
contimeout <span style="color:#116644">5000</span>
clitimeout <span style="color:#116644">50000</span>
srvtimeout <span style="color:#116644">50000</span>
listen webcluster <span style="color:#116644">0</span>.0.0.0:80
option httpchk GET /test.html
balance roundrobin
server inst1 <span style="color:#116644">192</span>.168.91.102:80 check inter <span style="color:#116644">2000</span> fall <span style="color:#116644">3</span>
server inst2 <span style="color:#116644">192</span>.168.91.103:80 check inter <span style="color:#116644">2000</span> fall <span style="color:#116644">3</span>
[root@localhost examples]<span style="color:#aa5500">#cd /opt/haproxy-1.4.24/examples</span>
[root@localhost examples]<span style="color:#aa5500">#cp haproxy.init /etc/init.d/haproxy</span>
[root@localhost examples]<span style="color:#aa5500">#cd /etc/init.d/</span>
[root@localhost init.d]<span style="color:#aa5500">#chmod +x haproxy </span>
[root@localhost init.d]<span style="color:#aa5500">#chkconfig --add haproxy </span>
[root@localhost sbin]<span style="color:#aa5500">#ln -s /usr/local/sbin/haproxy /usr/sbin/</span>
[root@localhost sbin]<span style="color:#aa5500">#service haproxy start</span>
<span style="color:#aa5500">#节点服务</span>
setenforce <span style="color:#116644">0</span>
systemctl <span style="color:#3300aa">stop</span> firewalld
[root@master100 opt]<span style="color:#aa5500">#systemctl stop firewalld</span>
[root@master100 opt]<span style="color:#aa5500">#setenforce 0</span>
[root@master100 opt]<span style="color:#aa5500">#yum install httpd -y</span>
[root@master100 opt]<span style="color:#aa5500">#cd /var/www/html/</span>
[root@master100 opt]<span style="color:#aa5500">#vim test.html</span>
[root@master100 opt]<span style="color:#aa5500">#systemctl start httpd</span>
[root@master100 opt]<span style="color:#aa5500"># ss -ntap |grep 80</span>
[root@localhost sbin]<span style="color:#aa5500">#curl 192.168.91.100/test.html</span></span></span>
HAproxy负载均衡实验
##HAProxy服务器配置
[root@localhost ~]# systemctl stop firewalld
[root@localhost ~]# setenforce 0
[root@localhost ~]# yum -y install pcre-devel bzip2-devel gcc gcc-c++ make
[root@localhost opt]# rz -E
rz waiting to receive.
[root@localhost opt]# tar xzvf haproxy-1.4.24.tar.gz
[root@localhost opt]# cd haproxy-1.4.24/
[root@localhost haproxy-1.4.24]# make TARGET=linux2628 ARCH=X86_64
[root@localhost haproxy-1.4.24]# make install
[root@localhost haproxy-1.4.24]# mkdir /etc/haproxy
[root@localhost haproxy-1.4.24]# cd examples/
[root@localhost examples]# cp haproxy.cfg /etc/haproxy/
[root@localhost examples]# cd /etc/haproxy/
[root@localhost haproxy]# vim haproxy.cfg
# this config needs haproxy-1.1.28 or haproxy-1.2.1
global
log /dev/log local0 info
log /dev/log local0 notice
#log loghost local0 info
maxconn 4096
#chroot /usr/share/haproxy
uid 99
gid 99
nbproc 1
daemon
#debug
#quiet
defaults
log global
mode http
option httplog
option dontlognull
retries 3
redispatch
maxconn 2000
contimeout 5000
clitimeout 50000
srvtimeout 50000
listen webcluster 0.0.0.0:80
option httpchk GET /test.html
balance roundrobin
server inst1 192.168.220.200:80 check inter 2000 fall 3
server inst2 192.168.220.128:80 check inter 2000 fall 3
[root@localhost haproxy]# cd /opt/haproxy-1.4.24/examples
[root@localhost examples]# cp haproxy.init /etc/init.d/haproxy
[root@localhost examples]# cd /etc/init.d/
[root@localhost init.d]# chmod +x haproxy
[root@localhost init.d]# chkconfig --add haproxy
[root@localhost init.d]# ln -s /usr/local/sbin/haproxy /usr/sbin/
[root@localhost init.d]# service haproxy start
Starting haproxy (via systemctl): [ 确定 ]
[root@localhost init.d]#
##节点服务器配置
[root@localhost ~]# systemctl stop firewalld
[root@localhost ~]# setenforce 0
[root@localhost ~]# yum install -y httpd
[root@localhost ~]# cd /var/www/html/
[root@localhost html]# vim test.html
220.128
[root@localhost html]# systemctl start httpd
[root@localhost html]# ss -napt |grep 80
LISTEN 0 128 :::80 :::* users:(("httpd",pid=15761,fd=4),("httpd",pid=15760,fd=4),("httpd",pid=15759,fd=4),("httpd",pid=15758,fd=4),("httpd",pid=15757,fd=4),("httpd",pid=15756,fd=4))
HAProxy服务器配置
节点服务器配置![](https://i-blog.csdnimg.cn/blog_migrate/678d0a92bde4f2a363fd2fc3ef73b793.png)
在haproxy服务器或者节点服务器上验证
日志问题
HAproxy本身不记录客户端的访问日志.此外为减少服务器负载,一般生产中HAProxy不记录日志.
也可以配置HAProxy利用rsyslog服务记录日志到指定日志文件中
<span style="background-color:#f8f8f8"><span style="color:#333333"><span style="color:#aa5500">#在global配置项定义:</span>
log <span style="color:#116644">127</span>.0.0.1 local{1-7} info <span style="color:#aa5500">#基于syslog记录日志到指定设备,级别有(err、warning、</span>
info、debug)
listen web_port
bind <span style="color:#116644">127</span>.0.0.1:80
mode http
log global <span style="color:#aa5500">#开启当前web_port的日志功能,默认不记录日</span>
志
server web1 <span style="color:#116644">127</span>.0.0.1:8080 check inter <span style="color:#116644">3000</span> fall <span style="color:#116644">2</span> rise <span style="color:#116644">5</span>
<span style="color:#aa5500"># systemctl restart haproxy</span>
<span style="color:#3300aa">vim</span> /etc/rsyslog.conf
<span style="color:#0000ff">$ModLoad</span> imudp
<span style="color:#0000ff">$UDPServerRun</span> <span style="color:#116644">514</span>
......
local3.* /var/log/haproxy.log
......
<span style="color:#aa5500"># systemctl restart rsyslog</span></span></span>
<span style="background-color:#f8f8f8"><span style="color:#333333">
[root@localhost ~]#vim /etc/rsyslog.conf
14 # Provides UDP syslog reception
15 $ModLoad imudp
16 $UDPServerRun 514
# systemctl restart rsyslog
service haproxy restart</span></span>