LVS负载均衡集群
一、集群概述
- 集群又名群集也叫Cluster
- 由多台主机构成,但对外,只表现为一个整体,只提供一个访问入口(域名或IP),相当于一台大型计算机。
1.集群的作用
- 互联网应用中,随着站点对硬件性能、响应速度、服务稳定性、数据可靠性等要求越来越高,单台服务器无法满足负载均衡及高可用的需求。
2.一些解决方法
问题:互联网应用中,随着站点对硬件性能、响应速度、服务稳定性、数据可靠性等要求越来越高,单台服务器已经无法满足负载均衡及高可用的要求
解决办法
- 升级硬件资源,使用价格昂贵的小型机、大型机(又叫纵向扩展)
- 使用多台相对廉价的普通服务器构建服务集群(又叫横向扩展)
3.集群的类型
- 负载均衡群集
- 高可用群集
- 高性能群集
负载均衡群集(Load Balance Cluster)
- 提高应用系统的响应能力、尽可能处理更多的访问请求、减少延迟为目标,获得高并发、高负载(LB)的整体性能。
- LB的负载分配依赖于主节点的分流算法,将来自客户机的访问请求分担给多个服务器节点,从而缓解整个系统的负载。
高可用群集 (High Availability Cluster)
- 提高应用系统的可靠性、尽可能地减少中断时间为目标,确保服务的连续性,达到高可用(HA) 的容错效果。
- HA的工作方式包括双工和主从两种模式,双工即所有节点同时在线;主从则只有主节点在线,但当出现故障时从节点能自动切换为主节点。
例如:“故障切换”、“双机热备” 等。
高性能运算群集(High Performance Computer Cluster)
- 以提高应用系统的CPU运算速度、扩展硬件资源和分析能力为目标,获得相当于大型、超级计算机的高性能运算(HPC)能力。
- 高性能依赖于"分布式运算”、“并行计算” , 通过专用硬件和软件将多个服务器的CPU、内存等资源整合在一起,实现只有大型、超级计算机才具备的计算能力。例如,“云计算”、“网格计算”等。
二、负载均衡集群构架
第一层,负载调度器(Load Balancer或Director)
- 对外,由调度器服务器提供一个VIP作为统一入口,对内,按照分流算法分发流量/请求给服务器池
第二层,服务器池(Server Pool)
- 服务器接收、响应、处理负载调度器的任务
第三层,共享存储(Share Storage)
- 共享存储为服务器提供存储空间
三、负载均衡群集工作模式分析
- 负载均衡群集是目前企业用得最多的群集类型
- 群集的负载调度技术有3种工作模式
- 地址转换(NAT模式)
- IP隧道 (TUN模式)
- 直接路由(DR模式)
1、NAT模式
地址转换
- Network Address Translation,简称NAT模式
- 类似于防火墙的私有网络结构,负载调度器作为所有服务器节点的网关,即作为客户机的访问入口,也是各节点回应客户机的访问出口
- 服务器节点使用私有IP地址,与负载调度器位于同一个物理网络,安全性要优于其他两种方式
2、TUN模式
IP隧道
- IP Tunnel,简称TUN模式
- 采用开放式的网络结构,负载调度器仅作为客户机的访问入口,各节点通过各自的Internet连接直接回应客户机,而不再经过负载调度器
- 服务器节点分散在互联网中的不同位置,具有独立的公网IP地址,通过专用IP隧道与负载调度器相互通信
3、DR模式
直接路由
- Direct Routing,简称DR模式
- 采用半开放式的网络结构,与TUN模式的结构类似,但各节点并不是分散在各地,而是与调度器位于同一个物理网络
- 负载调度器与各节点服务器通过本地网络连接,不需要建立专用的IP隧道
4、三种工作模式的区别
工作模式 | NAT模式 | TUN模式 | DR模式 |
---|---|---|---|
server number(节点数量) | low 10-20 | high 100 | hign 100 |
真实网关 | 负载调度器 | 自由路由器 | 自由路由器 |
IP地址 | 公网+私网 | 公网 | 私网 |
优点 | 安全性高 | 安全、速度快 | 性能最好 |
缺点 | 效率低、压力大 | 需要安全隧道、贵 | 不能跨越LAN(局域网) |
四、LVS-NAT的部署
1、Linux Virtual Server
- 针对Linux内核开发的负载均衡解决方案
- 1998年5月,由我国的章文嵩博士创建
- 官方网站: http://www.linuxvirtualserver.orgl
- LVS 实际上相当于基于IP地址的虚拟化应用, 为基于IP地址和内容请求分发的负载均衡提出了一种高效的解决方法
2、LVS现在已成为Linux内核的一部分
- 默认编译为ip_ vs模块,必要时能够自动调用。在CentOS 7系统中,以下操作可以手动加载ip_ vs模块,并查看当前系统中ip_ vs模块的版本信息。
modprobe ip_vs
cat /proc/net/ip_vs #确认内核对LVS的支持
五、 LVS的负载调度算法
1 、轮询(Round Robin)
- 将收到的访问请求按照顺序轮流分配给群集中的各节点(真实服务器),均等地对待每一台服务器,而不管服务器实际的连接数和系统负载。
2 加权轮询(Weighted Round Robin)
-
根据调度器设置的权重值来分发请求,权重值高的节点优先获得任务,分配的请求数越多。
-
保证性能强的服务器承担更多的访问流量。
3、 最少连接(Least Connections)
- 根据真实服务器已建立的连接数进行分配,将收到的访问请求优先分配给连接数最少的节点。
4、 加权最少连接(Weighted Least Connections)
-
在服务器节点的性能差异较大时,可以为真实服务器自动调整权重。
-
性能较高的节点将承担更大比例的活动连接负载。
六、使用 ipvsadm 工具
ipvsadm工具选项说明
选项 | 含义 |
---|---|
-A | 添加虚拟服务器 |
-D | 删除整个虚拟服务器 |
-s | 指定负载调度算法(轮询:rr、加权轮询:wrr、最少连接:lc、加权最少连接:wlc) |
-a | 表示添加真实服务器(节点服务器) |
-d | 删除某一个节点 |
-t | 指定VIP地址及TCP端口 |
-r | 指定RIP地址及TCP端口 |
-m | 表示使用NAT群集模式 |
-g | 表示使用DR模式 |
-i | 示使用TUN模式 |
-w | 设置权重(权重为0时表示暂停节点) |
-p 60 | 表示保持长连接60秒 |
-l | 列表查看LVS虚拟服务器(默认为查看所有) |
-n | 以数字形式显示地址、端口等信息,常与- l选项组合使用 |
七、LVS-NAT 部署实战
- LVS调度器作为Web 服务器池的网关,LVS具有两块网卡,分别连接内外网,使用轮询(rr)调度算法
配置环境
主机 | IP地址 | 安装包/工具/软件 |
---|---|---|
负载均衡器 | 内网:192.168.24.72外网:12.0.0.30 | ipvsadm |
NFS服务器 | 192.168.24.75 | rpcbind、nfs-utils |
Web节点服务器1 | 192.168.24.73 | rpcbind、nfs-utils、httpd |
Web节点服务器2 | 192.168.24.74 | rpcbind、nfs-utils、httpd |
客户端 | 12.0.0.120 | --------------- |
1、部署共享存储(NFS服务器:192.168.24.75)
systemctl stop firewalld.service #关闭防火墙
setenforce 0 #关闭防护中心
yum -y install nfs-utils rpcbind #下载nfs服务 和 rpcbind服务(用来传输nfs服务)
systemctl start rpcbind.service #开启rpcbind服务
systemctl start nfs.service #开启nfs服务
systemctl enable nfs.service
systemctl enable rpcbind.service
mkdir -p /csgo/host13 #创建要传输的第一个目录中的文件
mkdir -p /csgo/host14 #创建要传输的第二个目录中的文件
echo '<h1>gogogogo</h1>'> host13/index.html #在目录中添加gogogogo内容到index.html文件中
echo '<h1>nononono</h1>'> host14/index.html
vim /etc/exports
/csgo/host13 192.168.24.0/24(ro)
/csgo/host14 192.168.24.0/24(ro)
systemctl enable --now rpcbind nfs
showmount -e #查看共享的文件网段的目录的文件
Export list for localhost.localdomain:
/csgo/host14 192.168.24.0/24
/csgo/host13 192.168.24.0/24 #表示成功
2、配置节点服务器(192.168.24.73、192.168.24.74)
两台服务器都如同下面配置:
-----------------------------------------------------------------
systemctl stop firewalld.service
setenforce 0
vim /etc/yum.repo.d/nginx.repo
[nginx-stable]
name=nginx stable repo
baseurl=http://nginx.org/packages/centos/7/$basearch/
gpgcheck=0
enabled=1
yum -y install nginx
vim /etc/sysconfig/network-scripts/ifcfg-ens32
GATEWAY=192.168.24.72 #将网关改为内网网卡地址
systemctl restart network
showmount -e 192.168.24.75 #查看NFS共享的目录文件
Export list for 192.168.24.75:
/csgo/host14 192.168.24.0/24
/csgo/host13 192.168.24.0/24
Web节点服务器1(192.168.24.73)
mount 192.168.24.75:/csgo/host13 /usr/share/nginx/html/
Web节点服务器2(192.168.24.74)
mount 192.168.24.75:/csgo/host14/usr/share/nginx/html/
3、配置负载调度器(内网关 ens32:192.168.24.72,外网关 ens33:12.0.0.30)
systemctl stop firewalld.service
systemctl disable firewalld.service
setenforce 0
vim /etc/sysconfig/network-scripts/ifcfg-ens32
TYPE=Ethernet
PROXY_METHOD=none
BROWSER_ONLY=no
BOOTPROTO=static
DEFROUTE=yes
IPV4_FAILURE_FATAL=no
IPV6INIT=yes
IPV6_AUTOCONF=yes
IPV6_DEFROUTE=yes
IPV6_FAILURE_FATAL=no
IPV6_ADDR_GEN_MODE=stable-privacy
NAME=ens32
UUID=010ecbf6-2d9b-4fc0-8a48-53415d022983
DEVICE=ens32
ONBOOT=yes
IPADDR=192.168.24.72
NETMASK=255.255.255.0
vim /etc/sysconfig/network-scripts/ifcfg-ens33
TYPE=Ethernet
PROXY_METHOD=none
BROWSER_ONLY=no
BOOTPROTO=static
DEFROUTE=yes
IPV4_FAILURE_FATAL=no
IPV6INIT=yes
IPV6_AUTOCONF=yes
IPV6_DEFROUTE=yes
IPV6_FAILURE_FATAL=no
IPV6_ADDR_GEN_MODE=stable-privacy
NAME=ens33
DEVICE=ens33
ONBOOT=yes
IPADDR=12.0.0.30
NETMASK=255.255.255.0
systemctl restart network
(1)配置SNAT转发规则
vim /etc/sysctl.conf
net.ipv4.ip_forward = 1
或
echo '1' > /proc/sys/net/ipv4/ip_forward
sysctl -p
iptables -t nat -F
iptables -F
iptables -t nat -A POSTROUTING -s 192.168.24.0/24 -o ens33 -j SNAT --to-source 12.0.0.30
#外网客户端要访问集群中的NFS共享的节点池文件
#通过外网网卡进入LVS负载调度器来访问;LVS会根据客户端的需求找到对应的文件
#找到对应的文件之后,要经过SNAT地址转发 将原本的私网IP转换成公网IP才能返换给公网客户端
(2)加载LVS内核模块
modprobe ip_vs #加载 ip_vs模块
cat /proc/net/ip_vs #查看 ip_vs版本信息
(3)安装ipvsadm 管理工具
yum -y install ipvsadm
启动服务前须保存负载分配策略
systemctl start ipvsadm.service
会报错
Job for ipvsadm.service failed because the control process exited with error code. See "systemctl status ipvsadm.service" and "journalctl -xe" for details.
journalctl -xe
报错原因:/bin/bash: /etc/sysconfig/ipvsadm: 没有那个文件或目录
touch /etc/sysconfig/ipvsadm #创建一个ipvsadm目录
ls /etc/sysconfig/ #查看sysconfig下的ipvsadm目录是否创建成功
然后再启动服务
systemctl start ipvsadm.service
(4)配置负载分配策略(NAT模式只要在服务器上配置,节点服务器不需要特殊配置)
ipvsadm -C #清除原有策略
ipvsadm -A -t 12.0.0.30:80 -s rr
ipvsadm -a -t 12.0.0.30:80 -r 192.168.24.73:80 -m
ipvsadm -a -t 12.0.0.30:80 -r 192.168.24.74:80 -m
ipvsadm #启用策略
ipvsadm -ln #查看节点状态,Masq代表 NAT模式
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:Port Forward Weight ActiveConn InActConn
TCP 12.0.0.30:80 rr
-> 192.168.24.73:80 Masq 1 0 0
-> 192.168.24.74:80 Masq 1 0 0
ipvsadm-save > /etc/sysconfig/ipvsadm #保存策略
4、测试效果
- 在一台IP为12.0.0.120的客户机使用浏览器访问 http://12.0.0.30/ ,不断刷新浏览器测试负载均衡效果,刷新间隔需长点。
八、LVS-DR部署实战
主机 | IP |
---|---|
Web服务器1 | 192.168.24.73 |
Web服务器2 | 192.168.24.74 |
DR服务器 | 192.168.24.72 |
VIP | 192.168.24.188 |
客户机 | 192.168.24.200 |
1、配置负载调度器(192.168.24.72)
systemctl stop firewalld.service
setenforce 0
modprobe ip_vs
cat /proc/net/ip_vs
yum -y install ipvsadm
(1)配置虚拟 IP 地址(VIP:192.168.80.188)
cd /etc/sysconfig/network-scripts/
cp ifcfg-ens32 ifcfg-ens33:0 #若隧道模式,复制为ifcfg-tunl0
vim ifcfg-ens32:0
DEVICE=ens32:0
ONBOOT=yes
IPADDR=192.168.24.188
NETMASK=255.255.255.255
ifup ens32:0
ifconfig ens32:0
(2)调整 proc 响应参数
#由于 LVS 负载调度器和各节点需要共用 VIP 地址,需要关闭 icmp 的重定向,不充当路由器。
vim /etc/sysctl.conf
net.ipv4.ip_forward = 0
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0
sysctl -p
(3)配置负载分配策略
ipvsadm-save > /etc/sysconfig/ipvsadm
systemctl start ipvsadm
ipvsadm -C
ipvsadm -A -t 192.168.24.188:80 -s rr
ipvsadm -a -t 192.168.24.188:80 -r 192.168.24.73:80 -g #若隧道模式,-g替换为-i
ipvsadm -a -t 192.168.24.188:80 -r 192.168.24.74:80 -g
ipvsadm
ipvsadm -ln #查看节点状态,Route代表 DR模式
2.部署共享存储(NFS服务器:192.168.24.75)
systemctl stop firewalld.service #关闭防火墙
setenforce 0 #关闭防护中心
yum -y install nfs-utils rpcbind #下载nfs服务 和 rpcbind服务(用来传输nfs服务)
systemctl start rpcbind.service #开启rpcbind服务
systemctl start nfs.service #开启nfs服务
systemctl enable nfs.service
systemctl enable rpcbind.service
mkdir -p /csgo/host13 #创建要传输的第一个目录中的文件
mkdir -p /csgo/host14 #创建要传输的第二个目录中的文件
echo '<h1>gogogogo</h1>'> host13/index.html #在目录中添加gogogogo内容到index.html文件中
echo '<h1>nononono</h1>'> host14/index.html
vim /etc/exports
/csgo/host13 192.168.24.0/24(ro)
/csgo/host14 192.168.24.0/24(ro)
systemctl enable --now rpcbind nfs
showmount -e #查看共享的文件网段的目录的文件
Export list for localhost.localdomain:
/csgo/host14 192.168.24.0/24
/csgo/host13 192.168.24.0/24 #表示成功
3.配置节点服务器(192.168.24.73、192.168.24.74)
systemctl stop firewalld.service
setenforce 0
(1)配置虚拟 IP 地址(VIP:192.168.80.188
两台都配置
-------------------------------------------------
#此地址仅用作发送 Web响应数据包的源地址,并不需要监听客户机的访问请求(改由调度器监听并分发)。
因此使用虚接口 lo∶0 来承载 VIP 地址,并为本机添加一条路由记录,将访问 VIP 的数据限制在本地,以避免通信紊乱。
cd /etc/sysconfig/network-scripts/
cp ifcfg-lo ifcfg-lo:0
vim ifcfg-lo:0
DEVICE=lo:0
ONBOOT=yes
IPADDR=192.168.24.188
NETMASK=255.255.255.255 #注意:子网掩码必须全为 1
ifup lo:0
ifconfig lo:0
route add -host 192.168.24.188 dev lo:0
vim /etc/rc.local
/sbin/route add -host 192.168.24.188 dev lo:0
chmod +x /etc/rc.d/rc.local
(2)调整内核的 ARP 响应参数以阻止更新 VIP 的 MAC 地址,避免发生冲突
vim /etc/sysctl.conf
......
net.ipv4.conf.lo.arp_ignore = 1 #系统只响应目的IP为本地IP的ARP请求
net.ipv4.conf.lo.arp_announce = 2 #系统不使用IP包的源地址来设置ARP请求的源地址,而选择发送接口的IP地址
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2
sysctl -p #查看参数
两台服务器都如同下面配置:
-----------------------------------------------------------------
systemctl stop firewalld.service
setenforce 0
vim /etc/yum.repo.d/nginx.repo
[nginx-stable]
name=nginx stable repo
baseurl=http://nginx.org/packages/centos/7/$basearch/
gpgcheck=0
enabled=1
yum -y install nginx
vim /etc/sysconfig/network-scripts/ifcfg-ens32
GATEWAY=192.168.24.72 #将网关改为内网网卡地址
systemctl restart network
showmount -e 192.168.24.75 #查看NFS共享的目录文件
Export list for 192.168.24.75:
/csgo/host14 192.168.24.0/24
/csgo/host13 192.168.24.0/24
Web节点服务器1(192.168.24.73)
mount 192.168.24.75:/csgo/host13 /usr/share/nginx/html/
Web节点服务器2(192.168.24.74)
mount 192.168.24.75:/csgo/host14/usr/share/nginx/html/
4.测试 LVS 群集
在客户端使用浏览器访问 http://192.168.24.188/
curl http://192.168.24.188/index.html也可以实现