目录
高可用群集 (High Availability Cluster)
高性能运算群集(High Performance Computer Cluster)
第一层 负载调度器(Load balancer或Director)
4、加权最少连接(Weghted Least Connections)
前言
现在对于我们的需求来说,网络服务已经无法通过一台主机或服务器完成了,这就慢慢的有了服务群集的衍生。
一、群集概念
群集(Cluster)是由多台主机构成,但对外只表现为一个整体,只提供一个访问入口(域名或IP地址),相当于一台大型计算机。
问:集群存在的必要性?
互联网应用中,随着站点对硬件性能、响应速度、服务稳定性、数据可靠性等要求越来越高,单台服务器已经无法满足负载均衡和高可用的需求了。
补充(系统的性能扩展方向)
水平扩展:向外扩展,增加设备
垂直扩展:向上扩展,提高性能
二、群集的分类
负载均衡群集(Load Balance Cluster)
1、提高应用系统的响应能力、尽可能处理更多的访问请求、减少延迟为目标,获得高并发、高负载(LB)的整体性能。
2、LB的负载分配依赖于主节点的分流算法,将来自客户机的访问请求分担给多个服务器节点,从而缓解整个系统的负载。
特点:强调减少响应延迟,提高并发处理能力
高可用群集 (High Availability Cluster)
1、提高应用系统的可靠性、尽可能地减少中断时间为目标,确保服务的连续性,达到高可用(HA) 的容错效果。
2、HA的工作方式包括双工和主从两种模式,双工即所有节点同时在线;主从则只有主节点在线,但当出现故障时从节点能自动切换为主节点。
例如:“故障切换”、“双机热备” 等。
特点:系统的稳定性,减少服务中断时间,减少损失
高性能运算群集(High Performance Computer Cluster)
1、以提高应用系统的CPU运算速度、扩展硬件资源和分析能力为目标,获得相当于大型、超级计算机的高性能运算(HPC)能力。
2、高性能依赖于"分布式运算”、“并行计算” , 通过专用硬件和软件将多个服务器的CPU、内存等资源整合在一起,实现只有大型、超级计算机才具备的计算能力。例如,“云计算”、“网格计算”等。
特点:高性能运算的能力,分布式,并发
三、负载均衡群集架构
LVS群集创建与管理
第一层 负载调度器(Load balancer或Director)
访问整个集群系统的唯一入口,对外使用所有的服务器共有IP地址,也成为集群IP地址。通常会配置主备两台调度器实现热备份,当主调度器失效以后能够平滑替换至备用调度器,以确保高可用性。
负载调度器相当于是代理Nginx。
第二层 服务器池(Server Pool)
集群所提供的应用服务,由服务器池承担,其中每个节点具有独立的RIP地址(real IP真实IP),至处理调度器分发过来的客户机请求,当某个节点暂时失效时,负载调度器的容错机制会将其隔离,等待错误排除以后再重新纳入服务器池。
服务器池相当于是后端真实IP地址服务器(upstream调用:upstream tomcat_server (IP:port) + location进行匹配跳转到upstream里的地址池中,也是服务器池多映射的后端节点tomcat)。
第三层 共享存储(Share Srorage)
为服务器池中的所有节点提供稳定、一致的文件存取服务,确保整个集群的统一性,共享存储可以使用NAS设备,或者提供NFS共享服务的专用服务器。
共享存储相当于是NFS。
负载均衡结构图
负载调度器:同构调度算法确定,以及RIP(真实IP地址)发送
服务器池:所有服务器所用的资源
共享存储:提供网站的存储资源
四、负载均衡群集工作模式分析
负载均衡集群是目前企业用的最多的群集类型
群集的负载调度技术三种工作模式
- 地址转换
- IP隧道
- 直接路由
五、三种调度工作模式
1、NAT模式——地址转换
- Network Address Translation,简称NAT模式
- 类似于防火墙的私有网络结构,负载调度器作为所有服务器节点的网关,即作为客户机的访问入口,也是各节点回应客户机的访问出口
- 服务器节点使用私有IP地址,与负载调度器位于同一个物理网络,安全性要优于其他两种方式
调度作为网关,是访问请求的入口,也是相应访问的出口,在高并发场景中负载压力很高
2、TUN模式——IP隧道
- IP Tunnel,简称TUN模式
- 采用开放式的网络结构,负载调度器仅作为客户机的访问入口,各节点通过各自的Internet连接直接回应客户机,而不再经过负载调度器
- 服务器节点分散在互联网中的不同位置,具有独立的公网IP地址,通过专用IP隧道与负载调度器相互通信
进访问请求的入口,响应数据不经过调度器,但是需要大量的公网IP,还需要专用的IP隧道没数据转发受IP隧道影响
3、DR模式——直接路由
- Direct Routing,简称DR模式
- 采用半开放式的网络结构,与TUN模式的结构类似,但各节点并不是分散在各地,而是与调度器位于同一个物理网络
- 负载调度器与各节点服务器通过本地网络连接,不需要建立专用的IP隧道
进访问请求的入口,响应数据不经过调度器和IP隧道,节点服务器和调度器在同一个物理网络中,数据转发不受额外的影响
三种工作模式的区别
工作模式 | NAT | DR | TUN |
IP地址 | 公网+私网 | 私网 | 公网 |
真实网关 | 负载调度器 | 路由器 | 路由器 |
节点数量 | 10~20 | 100 | 100 |
优点 | 安全性能高 | 性能好 | 安全、速度快 |
缺点 | 效率低、压力大 | 局限性高(不能跨网段) | 价格高(使用隧道) |
六、LVS虚拟服务器
1、Linux Virtual Server
针对Linux内核开发的负载均衡解决方案
1998年5月,由我国的章文嵩博士创建
官方网站: http://www.linuxvirtualserver.orgl
LVS 实际上相当于基于IP地址的虚拟化应用, 为基于IP地址和内容请求分发的负载均衡提出了一种高效的解决方法
2、LVS现在已成为Linux内核的一部分,默认编译为ip_ vs模块,必要时能够自动调用。在CentOS 7系统中,以下操作可以手动加载ip_ vs模块,并查看当前系统中ip_ vs模块的版本信息。
ipvsadm命令
概念
ipvsadm是一个工具,同时它也是一条命令,用于管理LVS的策略规则
参数说明
-A:添加虚拟服务器
-D:删除整个虚拟服务器
-s:指定负载调度算法(轮询:rr、加权轮询:wrr、最少连接:lc、加权最少连接:wlc)
-a:表示添加真实服务器(节点服务器)
-d:删除某一个节点
-t:指定 VIP地址及 TCP端口
-r:指定 RIP地址及 TCP端口
-m:表示使用 NAT群集模式
-g:表示使用 DR模式
-i:表示使用 TUN模式
-w:设置权重(权重为 0 时表示暂停节点)
-p 60:表示保持长连接60秒
-l:列表查看 LVS 虚拟服务器(默认为查看所有)
-n:以数字形式显示地址、端口等信息,常与“-l”选项组合使用。ipvsadm -ln
七、LVS负载调度算法
1、轮询(Round Robin)
将收到的访问请求按照轮流分配给群集中的各节点(真实服务器),均等对待每一台服务器二不管服务器实际的连接数和系统负载;
2、加权轮询(Weighted Round Robin)
根据调度器设置的权重值来分发请求,权重值搞得节点优先获得任务,分配的请求数越多;
保证性能越强的服务器承担更多的访问流量;
3、最少链接(Least Connections)
根据真实服务器已建立的连接数进行分配,将收到的访问请求有限分配给连接数最少的节点;
4、加权最少连接(Weghted Least Connections)
在服务器节点的性能差异较大时,可以为真实服务器自动调整权重;
性能较高的节点将承担更大比例的活动连接负载。
八、LVS-NAT实例部署
需要一台Windows客户机,IP地址为10.0.0.12;一台负载均衡器ens33内网连接:192.168.223.10,外网连接:10.0.0.1;Web服务器1的IP地址:192.168.223.13;Web服务器2的IP地址:192.168.223.17和一台NFS服务器,IP地址:192.168.223.33
1、NFS服务器部署
IP地址:192.168.223.33
##关闭防火墙和增强机制
[root@NFS ~]# systemctl stop firewalld
[root@NFS ~]# systemctl disable firewalld
[root@NFS ~]# setenforce 0
##安装nfs的两个安装包
[root@NFS ~]# yum install -y rpcbind nfs-utils
##启动NFS服务
[root@NFS ~]# systemctl start rpcbind nfs
[root@NFS ~]# systemctl enable nfs
Created symlink from /etc/systemd/system/multi-user.target.wants/nfs-server.service to /usr/lib/systemd/system/nfs-server.service.
##写入共享策略并刷新
[root@NFS ~]# cat /etc/exports
/opt/felicity 192.168.223.0/24(rw,sync)
/opt/luoli 192.168.223.0/24(rw,sync)
[root@NFS ~]# exportfs -rv
exporting 192.168.223.0:/opt/luoli
exporting 192.168.223.0:/opt/felicity
2、配置Web服务器
##关闭防火墙和增强机制
[root@Web ~]# systemctl stop firewalld
[root@Web ~]# systemctl disable firewalld
[root@Web ~]# setenforce 0
##下载安装包
[root@Web ~]# yum install -y rpcbind nfs-utils
##查看共享目录
[root@Web ~]# showmount -e 192.168.223.33 #设置了共享目录的机子
##开启服务
[root@Web ~]# systemctl start rpcbind
[root@Web ~]# systemctl start httpd
[root@Web ~]# systemctl enable httpd
Created symlink from /etc/systemd/system/multi-user.target.wants/httpd.service to /usr/lib/systemd/system/httpd.service.
开启服务----并设置开机自启
写入内容后去NFS服务器中查验
Web1
Web2
3、配置负载调度器
内网关ens33:192.168.223.10,外网关ens37:10.0.0.1
##关闭防火墙和增强机制
[root@LBfuzai ~]# systemctl stop firewalld
[root@LBfuzai ~]# systemctl disable firewalld
[root@LBfuzai ~]# setenforce 0
setenforce: SELinux is disabled
##下载iptables软件包和ipvsadm工具包
[root@LBfuzai ~]# yum install -y iptables iptables-utils
[root@LBfuzai ~]# yum install -y ipvsadm
##配置双网卡(一个内网,一个外网)
[root@LBfuzai ~]# vim /etc/sysconfig/network-scripts/ifcfg-ens33
[root@LBfuzai ~]# vim /etc/sysconfig/network-scripts/ifcfg-ens37
[root@LBfuzai ~]# echo '1' > /proc/sys/net/ipv4/ip_forward
[root@LBfuzai ~]# sysctl -p
net.ipv4.ip_forward = 1
##删除防火墙规则
[root@LBfuzai ~]# iptables -F
[root@LBfuzai ~]# iptables -F -t nat
[root@LBfuzai ~]# iptables -nL
##添加源IP和网卡出口
[root@LBfuzai ~]# iptables -t nat -A POSTROUTING -s 192.168.223.0/24 -o ens37 -j SNAT --to-source 10.0.0.1
重启网络并查询确认IP地址
添加IP转发功能 删除防火墙规则并查询
添加源IP和网卡出口
添加LVS内核模块
[root@LBfuzai ~]# modprobe ip_vs #添加ip_vs模块
[root@LBfuzai ~]# cat /proc/net/ip_vs #查看版本信息
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:Port Forward Weight ActiveConn InActConn
##安装ipvsadm管理工具
[root@LBfuzai ~]# yum install ipvsadm -y
##启动服务(启动前需要保存负载的分配策略)
[root@LBfuzai ~]# ipvsadm-save > /etc/sysconfig/ipvsadm
或ipvsadm --save > /etc/sysconfig/ipvsadm
[root@LBfuzai ~]# systemctl start ipvsadm.service #保存后重启
[root@LBfuzai ~]# ipvsadm -C #清空策略
##添加策略
[root@LBfuzai ~]# ipvsadm -A -t 10.0.0.1:80 -s rr
[root@LBfuzai ~]# ipvsadm -a -t 10.0.0.1:80 -r 192.168.223.13:80 -m
[root@LBfuzai ~]# ipvsadm -a -t 10.0.0.1:80 -r 192.168.223.17:80 -m
##启动策略
[root@LBfuzai ~]# ipvsadm
安装管理工具
保存分配策略并重启
网页测试
等待刷新页面
总结
通过本文可以了解到LVS的作用和分类,可以将不同的LVS架构应用到不同的需求环境中
了解LVS群集的三种结构体系:负载调度器、服务器池、共享存储
了解LVS的三种工作模式:NAT、DR、TUN
了解LVS的调度算法:RR、WRR、LC、WLC、LBLC、LBLCR、DH、SH、SED、NQ等