群集架构----Haproxy群集

最新推荐文章于 2024-06-26 18:37:03 发布
最新推荐文章于 2024-06-26 18:37:03 发布
阅读量362 收藏
点赞数 1
分类专栏： 企业群集架构 文章标签： nginx Haproxy 群集架构 调度算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/LPFAM/article/details/108369459
版权

前言

  • 常见的Web集群调度器

    目前常见的Web集群调度器分为软件和硬件，软件通常使用开源的LVS、 Haproxy、 Nginx，硬件一般使用比较多的是F5，也有很多人使用国内的一些产品，如梭子鱼、绿盟等

  • LVS虽然在企业应用中抗负载能力很强，但存在不足

    • LVS不支持正则处理，不能实现动静分离
    • 对于大型网站，LVS的实施配置复杂，维护成本相对较高

  • Haproxy是一款可提供高可用性、负载均衡、及基于TCP和HTTP应用的代理的软件

    • 特别适用于负载特别大的Web站点
    • 运行在当前的硬件上可支持数以万计的并发连接连接请求

一: Haproxy 调度算法

  • Haproxy支持多种调度算法，最常用的有三种：RR（Round Robin），LC（Least Connections）, SH（Source Hashing）

1.1：RR（Round Robin）轮询调度

  • RR算法是最简单最常用的一种算法，即轮询调度
  • 理解举例
    • 有三个节点A、B、C，第一个用户访问会被指派到节点A，第二个用户访问会被指派到节点B，第三个用户访问会被指派到C节点
    • 第四个用户访问继续指派到节点A，轮询分配访问请求实现负载均衡效果

1.2：LC（Least Connections）最小连接数算法

  • LC算法即最小连接数算法，根据后端的节点连接数大小动态分配前端请求
  • 理解举例
    • 有三个节点A、B、C，各节点的连接数分别为A:4、B:5、C:6，此时如果有第一个用户连接请求，会被指派到A上，连接数变为A：5、B：5、C：6
    • 第二个用户请求会继续分配到A上，连接数变为A6、B：5、C：6；再有新的请求会分配给B，每次将新的请求指派给连接数最小的客户端
    • 由于实际情况下A、B、C的连接数会动态释放，很难会出现一样连接数的情况，因此此算法相比较rr算法有很大改进，是目前用到比较多的一种算法

1.3：SH（Source Hashing）来源访问调度算法

  • SH即基于来源访问调度算法，此算法用于一些有 Session会话记录在服务器端的场景，可以基于来源的IP、Cookie等做集群调度
  • 理解举例
    • 有三个节点A、B、C，第一个用户第一次访问被指派到了A，第二个用户第次访问被指派到了B
    • 当第一个用户第二次访问时会被继续指派到A，第二个用户第二次访问时依旧会被指派到B，只要负载均衡调度器不重启，第一个用户访问都会被指派到A，第二个用户访问都会被指派到B，实现集群的调度
    • 此调度算法好处是实现会话保持，但某些IP访问量非常大时会引起负载不均衡，部分节点访问量超大，影响业务使用

二: Haproxy群集配置

2.1：主机要求

  • 主机操作系统IP地址主要软件
    Haproxy服务器CentoS 7.6 x86_64192.168.100.140haproxy-1.5.19.tar.gz
    Nginx服务器1CentOs 7.6 x86_64192.168.100.150nginx-1.12.0.tar.gz
    Nginx服务器2CentOs 7.6 x86_64192.168.100.160nginx-1.12.0.tar.gz
    客户端Windows 10192.168.100.20Chrome

2.2：Nginx的安装与启动

  • 在两台网站服务器上安装Nginx，并启动服务

    • 使用源码编译的方式进行安装
    • 关闭 Firewall防火墙
    • 安装基础软件包
    • 增加系统用户账号 nginx
    • 编译安装 Nginx并启动

  • 在两台Nginx上配置测试网站，测试网页的内容应该不同，以便进行测试

2.3: Haproxy安装与启动

  • 在负载均衡器上安装Haproxy

  • 安装步骤

    • 安装基础软件包
    • 编译安装haproxy
    • 要注意操作系统版本，是32位系统还是64位

  • 建立Haproxy的配置文件

    • 创建配置文件目录/etc/haproxy
    • 将源码包提供的配置文件样例haproxy.cfg复制到配置文件目录中

2.4：Haproxy配置文件详解

  • Haproxy配置文件通常分为三个部分

    • global：为全局配置
    • defaults：为默认配置
    • listen：为应用组件配置

  • global配置参数

    • log127.0.0.1 lcal0：配置日志记录，local0为日志设备，默认存放到系统日志
    • log127.0.0.1 loca1 notice:notice为日志级别，通常有24个级别
    • maxconn4096：最大连接数
    • uid 99：用户uid
    • gid 99：用户gid

  • defaults配置项配置默认参数，一般会被应用组件继承，如果在应用组件中没有特别声明，将安装默认配置参数设置

    • log global：定义日志为global配置中的日志定义
    • mode http：模式为http
    • option httplog：采用http日志格式记录日志
    • retries 3：检查节点服务器失败连续达到三次则认为节点不可用
    • maxconn2000：最大连接数
    • contimeout5000：连接超时时间
    • clitimeout50000：客户端超时时间
    • srvtimeout50000：服务器超时时间

  • listen配置项目一般为配置应用模块参数

    • listen appli4- backup 0.0.0.0:10004：定义一个appli4- backup的应用
    • option httpchk /index.html检查服务器的index.html文件
    • option persist：强制将请求发送到已经down掉的服务器
    • balance roundrobin：负载均衡调度算法使用轮询算法
    • server inst1 192.168.114.56:80 check inter 2000 fall 3：定义在线节点
    • server inst2 192.168 114.56:81 check inter 2000 fall 3 backup：定义备份节点
  • global
        log 127.0.0.1   local0  //日志输出配置，所有日志都记录在本机，通过local0输出
        log 127.0.0.1   local1 notice //notice为日志级别
        #log loghost    local0 info
        maxconn 4096       //最大连接数
        chroot /usr/share/haproxy
        uid 99  //用户uid
        gid 99  //用户gid
        daemon
        #debug
        #quiet
 
defaults
        log     global   		//定义日志为global配置中的日志定义
        mode    http     		//模式为http
        option  httplog  		//采用http日志格式记录日志
        option  dontlognull 
        retries 3    			//检查节点服务器失败次数，连续达到三次失败，则节点不可用
        redispatch      		//请求继续发个DOWN的节点
        maxconn 2000    		//最大连接数
        contimeout      5000    //连接超时时间
        clitimeout      50000   //客户端超时时间
        srvtimeout      50000   //服务器超时时间
 
listen  appli1-rewrite 0.0.0.0:10001  //定义一个appli1-rewrite的应用
        cookie  SERVERID rewrite
        balance roundrobin //负载均衡算法使用轮询算法
        server  app1_1 192.168.34.23:8080 cookie app1inst1 check inter 2000 rise 2 fall 5
        server  app1_2 192.168.34.32:8080 cookie app1inst2 check inter 2000 rise 2 fall 5
        server  app1_3 192.168.34.27:8080 cookie app1inst3 check inter 2000 rise 2 fall 5
        server  app1_4 192.168.34.42:8080 cookie app1inst4 check inter 2000 rise 2 fall 5
 
listen  appli2-insert 0.0.0.0:10002
        option  httpchk  //检查服务器的文件
        balance roundrobin
        cookie  SERVERID insert indirect nocache
        server  inst1 192.168.114.56:80 cookie server01 check inter 2000 fall 3
        server  inst2 192.168.114.56:81 cookie server02 check inter 2000 fall 3
        capture cookie vgnvisitor= len 32
 
        option  httpclose               # disable keep-alive
        rspidel ^Set-cookie:\ IP=       # do not let this cookie tell our internal IP address
 
listen  appli3-relais 0.0.0.0:10003
        dispatch 192.168.135.17:80

    注：日志的级别，0（EMERG，紧急），1（ALERT，警告），2（CRIT，严重），3（ERR，错误），4（WARNING，提醒），5（NOTICE，注意），6（INFO，信息），7（DEBUG，调试）

2.6：实验过程

2.6.1: 环境准备

  • VMware软件
  • 两台centos7虚拟机作为Ngnix（IP地址：192.168.100.150 / IP地址：192.168.100.160）
  • 一台centos7虚拟机作为Haproxy（IP地址：192.168.100.140）

2.6.2: 实验拓扑图

  • mark

2.6.3: 配置web节点服务器Nginx

  • 1.配置环境
yum install -y \
pcre-devel \
zlib-devel \
gcc \
gcc-c++ \
make

2.创建nginx的账户
useradd -M -s /sbin/nologin nginx

3.解压软件包
tar zxvf nginx-1.12.0.tar.gz -C /opt/

4.编译且安装
cd /opt/nginx-1.12.0/

./configure \
--prefix=/usr/local/nginx \
--user=nginx \
--group=nginx
make && make install

5.设置主页面
cd /usr/local/nginx/html
echo "this is nginx01 web" > test.html

6.将执行脚本建立软链接
ln -s /usr/local/nginx/sbin/nginx /usr/local/sbin/

7.验证语法错误
nginx -t

8.开启nginx服务，关闭防火墙
nginx
netstat -ntap |grep nginx

systemctl stop firewalld
setenforce 0
自己浏览器测试

    mark

    mark

2.6.4: 配置haproxy服务器

  • 1.下载软件包
yum install -y \
pcre-devel \
bzip2-devel \
gcc \
gcc-c++ \
make

2.解压haproxy软件包
tar zxvf haproxy-1.5.19.tar.gz -C /opt/

3.编译安装haproxy
cd /opt/haproxy-1.5.19/
make TARGET=linux26					//64位系统
make install

4.创建配置文件的目录，且复制模板
mkdir /etc/haproxy
cp examples/haproxy.cfg /etc/haproxy/

5.编辑配置文件
cd /etc/haproxy/
vim haproxy.cfg

删除以下语句
#chroot /usr/share/haproxy			//关闭固定家目录
#redispatch							//关闭对于失败服务器发送请求

#删除所有listen项目并添加
listen webcluster 0.0.0.0:80		//监听任意网段的80端口,webcluster自定义名称
	option httpchk GET /test.html
	balance roundrobin
	server inst1 192.168.100.150:80 check inter 2000 fall 3
	server inst2 192.168.100.160:80 check inter 2000 fall 3

6.配置服务控制方式	
cp /opt/haproxy-1.5.19/examples/haproxy.init /etc/init.d/haproxy
cd /etc/init.d
chmod +x haproxy
chkconfig --add /etc/init.d/haproxy
ln -s /usr/local/sbin/haproxy /usr/sbin/haproxy
7.关闭安全性功能，开启服务
systemctl stop firewalld
setenforce 0
service haproxy start
netstat -ntap |grep haproxy   '检查80端口'

测试: 访问代理服务器地址192.168.100.140 刷新,检查是否调度切换

    mark

    mark

  • 以上调度服务器已经开始调度

三: Haproxy日志管理

3.1: 日志管理

  • Haproxy的日志默认是输出到系统的 syslog中，在生产环境中一般单独定义出来

  • 定义的方法步骤

    • 修改 Haproxy配置文件中关于日志配置的选项，加入配置

      log /dev/log local0 info

      log /dev/log local0 notice

    • 修改 rsyslog配置，将 Haproxy相关的配置独立定义到haproxy.conf，并放到/etc/rsyslog.d/下

    • 保存配置文件并重启 rsyslog服务，完成 rsyslog配置

  • 访问Haproxy群集测试网页并查看日志信息

3.2: 日志管理实验

  • //接上面操作
8.配置日志记录,添加脚本

vim /etc/haproxy/haproxy.cfg
	log /dev/log local0 info
	log /dev/log local0 notice

service haproxy restart

touch /etc/rsyslog.d/haproxy.conf
vim  /etc/rsyslog.d/haproxy.conf
//添加下面代码
if ($programname == 'haproxy' and $syslogseverity-text == 'info')
then -/var/log/haproxy/haproxy-info.log
&~
//当程序名匹配到haproxy 和 日志级别是info时,输出到/var/log/haproxy/haproxy-info.log里
if ($programname == 'haproxy' and $syslogseverity-text == 'notice')
then -/var/log/haproxy/haproxy-notice.log
&~
//当程序名匹配到haproxy 和 日志级别是notice时,输出到/var/log/haproxy/haproxy-notice.log里
9.重启服务  
systemctl restart rsyslog.service		//重启系统日志
service haproxy restart                 //重启服务才能有日志文件

    mark

四: Haproxy 参数优化

  • 随着企业网站负载增加， haproxy参数优化相当重要
  1. maxconn：最大连接数，根据应用实际情况进行调整，推荐使用10 240
  2. daemon：守护进程模式， Haproxy可以使用非守护进程模式启动，建议使用守护进程模式启动
  3. nbproc：负载均衡的并发进程数，建议与当前服务器CPU核数相等或为其2倍
  4. retries：重试次数，主要用于对集群节点的检查，如果节点多，且并发量大，设置为2次或3次
  5. option http-server-close：主动关闭http请求选项，建议在生产环境中使用此选项
  6. timeout http-keep-alive：长连接超时时间，设置长连接超时时间，可以设置为10s
  7. timeout http-request：http请求超时时间，建议将此时间设置为5~10s，增加http连接释放速度
  8. timeout client：客户端超时时间，如果访问量过大，节点响应慢，可以将此时间设置短一些，建议设置为1min左右就可以了
一往无前，未来可期
关注
专栏目录
Haproxy日志解析
m0_47495420的博客
06-23 1834
一、TCP termination_statehaproxy的tcplog或httplog提供了一个"termination_state"字段，这个字段提供了一个sess...
haproxy tcp长连接_TiDB 最佳实践系列（六）HAProxy 的使用
weixin_39688378的博客
12-25 1508
HAProxy 是一个使用 C 语言编写的自由及开放源代码软件，其提供高可用性、负载均衡，以及基于 TCP 和 HTTP 的应用程序代理。GitHub、Bitbucket、Stack Overflow、Reddit、Tumblr、Twitter 和 Tuenti 在内的知名网站，及亚马逊网络服务系统都在使用 HAProxy。TiDB Server 作为无限水平扩展的无状态计算节点，需要能...
一文学会理解HAProxy：概念、架构、原理、搭建过程、常用命令及实战案例
最新发布
CloudJourney的博客
06-26 5255
<body></body>
haproxy mysql 长连接_让 HAProxy 1.5 感知 MySQL 复制的延迟
weixin_34757706的博客
01-27 307
在MySQL世界里，HAProxy 通常来作为软件负载均衡器使用。彼得.博罗什在过去的邮件中解释了如何使用percona xtradb集群(pxc)来对其设置。所以它只发送查询到可应用的节点。同样的方法可用于常规主从设置来读取负载并分散到多个从节点。不过，使用MySQL复制，另一个因素开始发挥作用：复制延迟。在这种情况下，被提及到的 Percona xtraDB 集群以及我们提出只返回“向上”或者...
nginx和haproxy代理时对后端的长连接分析
weixin_34341117的博客
11-15 794
由于代理服务器上开启了长连接后，可以减少每次与后端服务器的三次握手，提高后端服务器的效率。所以nginx在1.1.4版本中终于增加了upstream对keepalive的支持，而haproxy原本对后端是支持长连接的（但是这个时候由于不能把client的IP加到header转发给后端服务器造成会丢失客户端的IP）。今天简单测试了一下。基本的结构是A:Client –>...
Web负载均衡解决方案 haproxy
爱生活
06-24 752
HAProxy提供高可用性、负载均衡以及基于TCP和HTTP应用的代 理，支持虚拟主机，它是免费、快速并且可靠的一种解决方案。HAProxy特别适用于那些负载特大的web站点，这些站点通常又需要会话保持或七层处理。HAProxy运行在当前的硬件上，完全可以支持数以万计的并发连接。并且它的运行模式使得它可以很简单安全的整合进您当前的架构中， 同时可以保护你的web服务器不被暴露到网络上。
haproxy-1.8.10.tar.gz
04-29
HAProxy是一个使用C语言编写的自由及开放源代码软件，其提供高可用性、负载均衡，以及基于TCP和HTTP的...并且它的运行模式使得它可以很简单安全的整合进您当前的架构中， 同时可以保护你的web服务器不被暴露到网络上。
Lamp架构（三）负载均衡之haproxy-----haproxy负载均衡+pcs高可用+fence
weixin_44992260的博客
07-12 857
目录一、2.3.3二、高可用集群1.haproxy+pacemaker3. 一、 server1 dnf install hap vim /etc/ha/ha.cfg #--------------------------------------------------------------------- # Example configuration for a possible web application. See the # full configuration options online.
Haproxy负载均衡+Web群集搭建 --详细步骤
weixin_45691464的博客
04-13 257
Haproxy简介 Haproxy是一个使用C语言编写的，可靠的、高性能的负载均衡软件，也是一种免费、快速且可靠的解决方案，可为基于TCP（第四层）和HTTP（第七层）的应用程序提供高可用负载均衡，特别适用于流量非常高也就是负载特别大的Web网站，完全可以支持数以万计的并发连接。这些网站站点通常需要会话保持或七层处理。新型的大型互联网公司会采用Haproxy+keepalived架构搭建高性能We...
LAMP网站架构---(五)HAProxy+Pacemaker高可用负载均衡
sss
11-30 165
基本信息 HAProxy是一个使用C语言编写的自由及开放源代码软件，其提供高可用性、负载均衡，以及基于TCP和HTTP的应用程序代理 HAProxy特别适用于那些负载特大的web站点，这些站点通常又需要会话保持或七层处理 HAProxy运行在当前的硬件上，完全可以支持数以万计的并发连接，并且它的运行模式使得它可以很简单安全的整合进您当前的架构中，同时可以保护你的web服务器不被暴露到网络上 HAProxy实现了一种事件驱动，单一进程模型，此模型支持非常大的并发连接数；多进程或多线程模型受内存限.
LVS-群集架构介绍(linux 虚拟服务)
linhaoyanglinhao的博客
09-05 129
LVS-群集架构介绍
haproxy架构指南（中文翻译版）.pdf
12-02
haproxy架构指南（中文翻译版）.pdfhaproxy架构指南（中文翻译版）.pdf
Haproxy负载均衡集群架构设计一例
weixin_34013044的博客
08-24 172
公司最近有一个项目由于用户担心一台单机无法承担最多用户量的使用，要求上应用集群。我们根据应用情况设计了应用集群架构。架构图如下：部署应用集群的特点：1.前端代理负载均衡因用户环境基础架构采用虚拟化集群平台，服务器均采用虚拟机实现，所以设计时采用单台Haproxy来实现。前端选用haproxy：有一最大的特点HTTP第7层键康状态检查，与我们实际需要一致，因经常有应用压力大，...
haproxy配置TCP代理
lflmuximuxi的博客
11-30 3284
haproxy配置TCP代理 安装： yum -y install haproxy 备份原配置文件： cp -rf /etc/haproxy/haproxy.cfg{,.bak} 删除配置文件中的注释行和空行： sed -i -r '/^[ ]*#/d;/^$/d' /etc/haproxy/haproxy.cfg 修改配置文件: global log 127.0.0.1 local2 chroot /var/lib/haproxy pidfile
HAProxy TCP路由配置
一杯米酒
04-06 1035
haproxy是基于4层协议的转发负载工具，与nginx（主7层）一样，适合做tcp的负载均衡（eg.mysql），使用该功能 主要分3步。可以用 nc -l -p 9997 进行模拟，值得注意的是，当前这nc命令行只能连接一个tcp客户端，如果是自有程序就可以用多线程啥的。那么在 /etc/rsyslog.d/listen.conf中配置，不过正常情况用 journal -f -u haproxy 就可以。cpu匹配，如有需要可用 cpu-map。1.确认linux当前系统支持tcp转发。
HAProxy+Nginx高可用架构图
m0_47236359的博客
09-17 266
HAProxy+Nginx高可用架构
HAproxy的配置详解
justlpf的专栏
12-26 5101
注意：option后面加 httpchk，smtpchk,mysql-check,pgsql-check，ssl-hello-chk方法，可用于实现更多应用层检测功能。当业务众多时，将所有配置都放在一个配置文件中，会造成维护困难。可以考虑按业务分类，将配置信 息拆分，放在不同的子配置文件中，从而达到方便维护的目的。使用listen替换 frontend和backend的配置方式，可以简化设置，通常只用于TCP协议的应用。Proxies配置-listen 简化配置-生产中推荐。Proxies配置-
Haproxy作为MySQL中间层如何避免TCP端口耗尽
longxibendi的专栏
12-13 4140
from: http://noops.me/?p=252 Haproxy作为MySQL中间层是很成熟的方案，特别是解决从库的负载均衡和故障切换，在生产环境中有着广泛的应用。 在实际使用过程中，有两个问题比较容易发生： 1. TCP端口耗尽 2. 网卡带宽跑满 本文重点讲讲如何优化问题1，问题2暂不讨论。 优化一： 使用尽可能多的端口 Linux系统默认提供了65K个端
HAPROXY-Admin如何使用
05-25
HAPROXY-Admin是一个基于Web的管理界面，用于管理和监控HAProxy负载均衡器。下面是使用HAPROXY-Admin的基本步骤： 1. 安装HAPROXY-Admin：可以使用pip进行安装，命令如下： ``` pip install haproxy-admin ``` ...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值