一、理解负载均衡群集的原理
1.1:企业群集应用概述
- 群集的含义
- Cluster,群集,集群
- 由多台主机构成,但对外只表现为一个整体
问题
- 在互联网应用中,随着站点对硬件性能、响应速度、服务稳定性、数据可靠性等要求越来越高,单台服务器力不从心
解决办法 - 使用价格昂贵的小型机、大型机
- 使用普通服务器构建服务群集
1.2:企业群集分类
根据群集所针对的目标差异,可分为三种类型
1.2.1:负载均衡群集(Load Balance Cluster)
- 以提高应用系统的响应能力、尽可能处理更多的访问请求、减少延迟为目标,获得高并发、高负载(LB)的整体性能
- LB的负载分配依赖于主节点的分流算法,分流算法即调度
1.2.2:高可用群集(High Availability Cluster)
- 以提高应用系统的可靠性、尽可能地减少中断时间为目标,确保服务的连续性,达到高可用(HA)的容错效果
- HA的工作方式包括双工和主从两种模式
- 双工,两个平级状态的协同工作,随时顶替对方
- 带有主从模式的,一台主,多台从,称为中心化群集
- 去中心化机制:没有真正的主,如果有,也是象征意义的,所有节点都干活(Redis的群集就是典型去中心化机制)
1.2.3:高性能运算群集(High Performance Computer Cluster)
- 以提高应用系统的CPU运算速度、扩展硬件资源和分析能力为目标,获得相当于大型、超级计算机的高性能运算(HPC)能力
- 高性能运算群集的髙性能依赖于“分布式运算″、“并行计算”,通过专用硬件和软件将多个服务器的CPU、内存等资源整合在一起,实现只有大型、超级计算机才具备的计算能力
1.3:负载均衡群集工作模式分析
- 负载均衡群集是目前企业用得最多的群集类型
- 群集的负载调度技术有三种工作模式
- 地址转换 (NAT)
- IP隧道 (放在广域网上)
- 直接路由(DR,业务放在局域网上)
1.3.1:NAT模式
地址转换(Network Address Translation)
简称NAT模式,类似于防火墙的私有网络结构,负载调度器作为所有服务器节点的网关,即作为客户机的访问入口,也是各节点回应客户机的访问出口
服务器节点使用私有IP地址,与负载调度器位于同一个物理网络,安全性要优于其他两种方式
1.3.2:TUN模式
IP隧道(IP Tunnel)
简称TUN模式,采用开放式的网络结构,负载调度器仅作为客户机的访问入口,各节点通过各自的 Internet连接直接回应客户机,而不再经过负载调度器
服务器节点分散在互联网中的不同位置,具有独立的公网IP地址,通过专用IP隧道与负载调度器相互通信
1.3.3:DR模式
直接路由(Direct Routing)
简称DR模式,采用半开放式的网络结构,与TUN模式的结构类似,但各节点并不是分散在各地,而是与调度器位于同一个物理网络
负载调度器与各节点服务器通过本地网络连接,不需要建立专用的IP隧道
1.3.4:三种工作模式的区别
工作模式区别 | NAT模式 | TUN模式 | DR模式 |
---|---|---|---|
Real server(节点服务器) | |||
Server number(节点数量) | Low 10-20 | High 100 | High 100 |
真实网关 | 负载调度器 | ||
自有路由器 | 自有路由器 | ||
IP地址 | 公网+私网 | 公网 | 私网 |
优点 | 安全性高 | ||
Wan环境加密数据 | 性能最高 | ||
缺点 | 效率低,压力大 | ||
需要隧道支持 | 不能跨越LAN |
二、群集架构与虚拟服务器
2.1:负载均衡群集的架构
负载均衡的架构
- 第一层,负载调度器(Load Balancer或Director)
- 第二层,服务器池(Server Pool)
- 第三层,共享存储(Share Storage)
2.2:LVS虚拟服务器概述
2.2.1 Linux Virtual Server
针对 Linux内核的负载均衡解决方案
1998年5月,由我国的章文嵩博士创建
[root@localhost~]# modprobe ip_vs '//确认内核对LVS的支持'
[root@localhost~]# cat /proc/net/ip_vs
2.2.2 LVS的负载调度算法
- 轮询(Round Robin)
将收到的访问请求按照顺序轮流分配给群集中的各节点(真实服务器),均等地对待每一台服务器,而不管服务器实际的连接数和系统负载 - 加权轮询(Weighted Round Robin)
根据真实服务器的处理能力轮流分配收到的访问请求,调度器可以自动查询各节点的负载情况,并动态调整其权重
保证处理能力强的服务器承担更多的访问流量 - 最少连接(Least Connections)
根据真实服务器已建立的连接数进行分配,将收到的访问请求优先分配给连接数最少的节点 - 加权最少连接(Weighted Least Connections)
在服务器节点的性能差异较大的情况下,可以为真实服务器自动调整权重
权重较高的节点将承担更大比例的活动连接负载
2.3:LVS群集创建与管理工具
使用ipvsadm工具
- 创建虚拟服务器
- 添加,删除服务器节点
- 查看群集及节点情况
- 报错负载分配策略
三、LVS-NAT的部署实例
3.1 实验环境
VMware软件
一台centos7.6作为LVS网关,双网卡
两台centos7.6作为Apache服务器
一台centos7作为NFS存储
一台win10作为客户端
3.2 实验拓扑图
3.3 实验要求
win10客户机访问12.0.0.1的网址,通过nat地址转换,轮询的访问到Apache1和Apache2主机
Apache服务器的存储内容存储在nfs服务器上
3.4:实验过程
1、配置lvs服务器
[root@localhost ~]# iptables -F
[root@localhost ~]# setenforce 0
[root@localhost ~]# yum -y install ipvsadm //安装负载均衡调试命令
[root@localhost ~]# ifconfig
ens33: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500
inet 192.168.200.60 netmask 255.255.255.0 broadcast 192.168.200.255
inet6 fe80::d146:b7f3:d48:770f prefixlen 64 scopeid 0x20<link>
ether 00:0c:29:fc:cc:df txqueuelen 1000 (Ethernet)
RX packets 8606 bytes 12000004 (11.4 MiB)
RX errors 0 dropped 0 overruns 0 frame 0
TX packets 2355 bytes 169383 (165.4 KiB)
TX errors 0 dropped 0 overruns 0 carrier 0 collisions 0
ens36: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500
inet6 fe80::6d3d:1250:cc63:ee35 prefixlen 64 scopeid 0x20<link>
ether 00:0c:29:fc:cc:e9 txqueuelen 1000 (Ethernet)
RX packets 22 bytes 1320 (1.2 KiB)
RX errors 0 dropped 0 overruns 0 frame 0
TX packets 41 bytes 6198 (6.0 KiB)
TX errors 0 dropped 0 overruns 0 carrier 0 collisions 0
[root@localhost ~]# cd /etc/sysconfig/network-scripts/
[root@localhost network-scripts]# ls
ifcfg-ens33 ifdown-ppp ifup-ib ifup-Team
ifcfg-lo ifdown-routes ifup-ippp ifup-TeamPort
ifdown ifdown-sit ifup-ipv6 ifup-tunnel
ifdown-bnep ifdown-Team ifup-isdn ifup-wireless
ifdown-eth ifdown-TeamPort ifup-plip init.ipv6-global
ifdown-ib ifdown-tunnel ifup-plusb network-functions
ifdown-ippp ifup ifup-post network-functions-ipv6
ifdown-ipv6 ifup-aliases ifup-ppp
ifdown-isdn ifup-bnep ifup-routes
ifdown-post ifup-eth ifup-sit
[root@localhost network-scripts]# cp -p ifcfg-ens33 ifcfg-ens36
[root@localhost network-scripts]# vim ifcfg-ens33
IPADDR=12.0.0.1
NETMASK=255.255.255.0
[root@localhost network-scripts]# vim ifcfg-ens36
NAME=ens36
DEVICE=ens36
IPADDR=192.168.200.1
NETMASK=255.255.255.0
[root@localhost network-scripts]# service network restart
Restarting network (via systemctl): [ 确定 ]
[root@localhost network-scripts]# ifconfig
ens33: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500
inet 12.0.0.1 netmask 255.255.255.0 broadcast 12.0.0.255
ens36: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500
inet 192.168.200.1 netmask 255.255.255.0 broadcast 192.168.200.255
2、配置Apache服务器1
[root@localhost ~]# iptables -F
[root@localhost ~]# setenforce 0
[root@localhost ~]# yum -y install httpd
网卡配置仅主机
[root@localhost ~]# vim /etc/sysconfig/network-scripts/ifcfg-ens33
IPADDR=192.168.200.70
NETMASK=255.255.255.0
GATEWAY=192.168.200.1
[root@localhost ~]# service network restart
Restarting network (via systemctl): [ 确定 ]
[root@localhost ~]# ifconfig
ens33: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500
inet 192.168.200.70 netmask 255.255.255.0 broadcast 192.168.200.255
3、配置Apache服务器2
[root@localhost ~]# iptables -F
[root@localhost ~]# setenforce 0
[root@localhost ~]# yum -y install httpd
网卡配置仅主机
[root@localhost ~]# vim /etc/sysconfig/network-scripts/ifcfg-ens33
IPADDR=192.168.200.80
GATEWAY=192.168.200.1
NETMASK=255.255.255.0
[root@localhost ~]# service network restart
Restarting network (via systemctl): [ 确定 ]
[root@localhost ~]# ifconfig
ens33: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500
inet 192.168.200.80 netmask 255.255.255.0 broadcast 192.168.200.255
4、配置nfs服务器
[root@localhost ~]# iptables -F
[root@localhost ~]# setenforce 0
[root@localhost ~]# rpm -q rpcbind
rpcbind-0.2.0-47.el7.x86_64
[root@localhost ~]# yum -y install nfs-utils
网卡配置仅主机
[root@localhost ~]# vim /etc/sysconfig/network-scripts/ifcfg-ens33
IPADDR=192.168.200.90
GATEWAY=192.168.200.1
NETMASK=255.255.255.0
[root@localhost ~]# service network restart
Restarting network (via systemctl): [ 确定 ]
[root@localhost ~]# cd /opt/
[root@localhost opt]# mkdir accp benet
[root@localhost opt]# ls
accp benet rh
[root@localhost opt]# chmod 777 accp/ benet/
[root@localhost opt]# ll
总用量 0
drwxrwxrwx. 2 root root 6 8月 31 18:31 accp
drwxrwxrwx. 2 root root 6 8月 31 18:31 benet
[root@localhost opt]# vim /etc/exports
/opt/accp 192.168.200.0/24(rw,sync)
/opt/benet 192.168.200.0/24(rw,sync)
[root@localhost opt]# systemctl start rpcbind
[root@localhost opt]# systemctl start nfs
[root@localhost opt]# exportfs -rv
exporting 192.168.200.0/24:/opt/benet
exporting 192.168.200.0/24:/opt/accp
5、Apache服务器绑定nfs服务器
绑定Apache服务器1
[root@localhost ~]# showmount -e 192.168.200.90 //查看nfs共享目录
Export list for 192.168.200.90:
/opt/benet 192.168.200.0/24
/opt/accp 192.168.200.0/24
[root@localhost ~]# vim /etc/fstab
192.168.200.90:/opt/accp /var/www/html nfs defaults 0 0
[root@localhost ~]# mount -a //重新挂载
[root@localhost ~]# df -Th
文件系统 类型 容量 已用 可用 已用% 挂载点
/dev/mapper/centos-root xfs 50G 4.1G 46G 9% /
devtmpfs devtmpfs 1.9G 0 1.9G 0% /dev
tmpfs tmpfs 1.9G 0 1.9G 0% /dev/shm
tmpfs tmpfs 1.9G 13M 1.9G 1% /run
tmpfs tmpfs 1.9G 0 1.9G 0% /sys/fs/cgroup
/dev/sda1 xfs 1014M 179M 836M 18% /boot
/dev/mapper/centos-home xfs 245G 33M 245G 1% /home
tmpfs tmpfs 378M 4.0K 378M 1% /run/user/42
tmpfs tmpfs 378M 48K 378M 1% /run/user/0
192.168.200.90:/opt/accp nfs4 50G 4.0G 47G 8% /var/www/html
[root@localhost ~]# cd /var/www/html/
[root@localhost html]# vim index.html
<h1>this is accp web!</h1>
[root@localhost html]# systemctl start httpd
绑定Apache服务器2
Export list for 192.168.200.90:
/opt/benet 192.168.200.0/24
/opt/accp 192.168.200.0/24
[root@localhost ~]# vim /etc/fstab
192.168.200.90:/opt/benet /var/www/html nfs defaults 0 0
[root@localhost ~]# df -Th
文件系统 类型 容量 已用 可用 已用% 挂载点
/dev/mapper/centos-root xfs 50G 4.1G 46G 9% /
devtmpfs devtmpfs 2.0G 0 2.0G 0% /dev
tmpfs tmpfs 2.0G 0 2.0G 0% /dev/shm
tmpfs tmpfs 2.0G 13M 2.0G 1% /run
tmpfs tmpfs 2.0G 0 2.0G 0% /sys/fs/cgroup
/dev/sda1 xfs 1014M 166M 849M 17% /boot
/dev/mapper/centos-home xfs 245G 33M 245G 1% /home
tmpfs tmpfs 394M 4.0K 394M 1% /run/user/42
tmpfs tmpfs 394M 48K 394M 1% /run/user/0
192.168.200.90:/opt/benet nfs4 50G 4.0G 47G 8% /var/www/html
[root@localhost ~]# cd /var/www/html/
[root@localhost html]# vim index.html
<h1>this is benet web!</h1>
[root@localhost html]# systemctl start httpd
6、配置lvs负载均衡服务器
[root@localhost ~]# vim nat.sh
#!/bin/bash
echo "1" > /proc/sys/net/ipv4/ip_forward
ipvsadm -C
ipvsadm -A -t 12.0.0.1:80 -s rr
ipvsadm -a -t 12.0.0.1:80 -r 192.168.200.70:80 -m
ipvsadm -a -t 12.0.0.1:80 -r 192.168.200.80:80 -m
ipvsadm
[root@localhost ~]# chmod +x nat.sh
[root@localhost ~]# ./nat.sh
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:Port Forward Weight ActiveConn InActConn
TCP localhost.localdomain:http rr
-> 192.168.200.70:http Masq 1 0 0
-> 192.168.200.80:http Masq 1 0 0
7、使用一个新的client机器访问网站
调整网卡为仅主机模式
设置ip地址,网关和子网掩码