一、群集技术概述

1、群集类型

负载均衡群集:(Load Balance Cluster):以提高应用系统的响应能力、尽可能处理更多的访问请求、减少延迟为目标,获得高并发、高负载的整体性能。例如,“DNS轮询”“应用层交换”“反向代理”等都可用作负载均衡群集。

高可用群集(High Availability Cluster):以提高应用系统的可靠性、尽可能地减少中断时间为目标,确保服务的连续性,达到高可用(HA)的容错效果。例如,“故障切换”“双机热备”“多机热备”等都属于高可用群集技术。

高性能运算群集(High Performance Computer Cluster):以提高应用系统的 CPU运算速度、扩展硬件资源和分析能力为目标,获得相当于大型、超级计算机的高性能运算(HPC)能力。例如,“云计算”“网格计算”也可视为高性能运算的一种。

2、负载均衡的分层结构

在典型的负载均衡群集中,包括三个层次的组件,前端至少有一个负载调度器(Load Balancer,或称为Director)负责响应并分发来自客户机的访问请求;后端由大量真实服务器(Real Server)构成服务器池(Server Pool),提供实际的应用服务,整个群集的伸缩性通过增加、删除服务器节点来完成,而这些过程对客户机是透明的。

LVS负载均衡群集_客户端

第一层,负载调度器:这是访问整个群集系统的唯一入口,对外使用所有服务器共有的 VIP(Virtual IP,虚拟 IP)地址,也称为群集 IP地址。通常会配置主、备两台调度器实现热备份,当主调度器失效以后能够平滑替换至备用调度器,确保高可用性。

第二层,服务器池:群集所提供的应用服务(如HTTP、FTP)由服务器池承担,其中每个节点具有独立的 RIP(Real IP,真实IP)地址,只处理调度器分发过来的客户机请求。当某个节点暂时失效时,负载调度器的容错机制会将其隔离,等待错误排除以后再重新纳入服务器池。

第三层,共享存储:为服务器池中的所有节点提供稳定、一致的文件存取服务,确保整个群集的统一性。在 Linux/UNIX环境中,共享存储可以使用 NAS 设备,或者提供NFS(Network File System,网络文件系统)共享服务的专用服务器。

3、负载均衡的工作模式

地址转换(Network Address Translation): 简称 NAT 模式:客户端发送请求报文给LVS服务器,LVS服务器将请求报文的目的IP地址修改为后端真实服务器的IP地址,然后把请求发送给后端的真实服务器;后端服务器在处理完之后将响应报文返回调度器,然后在返回给客户端。

直接路由(Direct Routing):简称DR模式:客户端发送请求报文给LVS服务器,LVS服务器将请求报文的源MAC地址改为后端真实服务器的MAC地址,然后把请求发送给后端的真实服务器,后端真实服务器在处理完数据请求后,直接把数据返回给客户端。

IP 隧道(IP Tunnel)TUN模式:客户端发送请求报文给LVS服务器,LVS服务器将请求报文重新封装,发送给后端真实服务器,后端真实服务器在处理完数据请求之后直接返回给客户端。

二、LVS虚拟服务器

LVS 现在已成为 Linux 内核的一部分,默认编译为 ip_vs 模块,必要时能够自动调用。在 Cent0s 7系统中,以下操作可以手动加载 ip_vs 模块,并查看当前系统中 ip_vs 模块的版本信息。

[root@localhost~]# modprobe ip_vs          //加载 ip_vs 模块
[root@localhost~]# cat /proc/net/ip_vs       //查看 ip_vs 版本信息
Ip Virtual Server version l.2.1(size=4096)Prot LocalAddress:Port Scheduler Flags->RemoteAddress:Port Forward Weight ActiveConn InActConn
  • 1.
  • 2.
  • 3.
1、LVS的负载调度算法

轮询(RoundRobin):将收到的访问请求按照顺序轮流分配给群集中的各节点,均等地对待每台服务器,而不管服务器实际的连接数和系统负载。

加权轮询(Weighted Round Robin):根据调度器设置的权重值来分发请求,权重值高的节点优先获得任务并且分配的请求越多,这样可以保证性能高的节点承担更多请求。

最少连接(Least Connections):根据真实服务器已建立的连接数进行分配,将收到的访问请求优先分配给连接数最少的节点。如果所有的服务器节点性能相近,采用这种方式可以更好地均衡负载。

加权最少连接(Weighted Least Connections):在服务器节点的性能差异较大的情况下,调度器可以根据节点服务器负载自动调整权重,权重较高的节点将承担更大比例的活动连接负载。

2、使用ipvsadm管理工具
[root@localhost]#yum -y install ipvsadm
[root@localhost ~]# ipvsadm -v
ipvsadm vl.27 2008/5/15(compiled with popt and IPvS vl.2.1)
  • 1.
  • 2.
  • 3.

LVS 群集的管理工作主要包括创建虚拟服务器、添加服务器节点、查看群集节点状态、删除服务器节点和保存负载分配策略。

三、构建LVS负载均衡群集

1、地址转换模式(LVS-NAT)
1:实验环境:

注意:各web节点需要设置网关,NFS不需要

LVS负载均衡群集_客户端_02

LVS调度器需要添加网卡。

2:配置负载调度器
[root@localhost ~]# setenforce 0
[root@localhost ~]# systemctl stop firewalld
[root@localhost ~]# yum -y install ipvsadm
[root@localhost ~]# ipvsadm -v
ipvsadm v1.27 2008/5/15 (compiled with popt and IPVS v1.2.1)
[root@localhost ~]# vi /etc/sysctl.conf 
net.ipv4.ip_forward = 1
[root@localhost ~]# sysctl -p

[root@localhost ~]# ipvsadm -C
[root@localhost ~]# ipvsadm -A -t 172.16.16.172:80 -s rr
[root@localhost ~]# ipvsadm -a -t 172.16.16.172:80 -r 192.168.10.102:80 -m -w 1
[root@localhost ~]# ipvsadm -a -t 172.16.16.172:80 -r 192.168.10.103:80 -m -w 1
[root@localhost ~]# ipvsadm-save      保存策略
-A -t localhost.localdomain:http -s rr
-a -t localhost.localdomain:http -r 192.168.10.102:http -m -w 1
-a -t localhost.localdomain:http -r 192.168.10.103:http -m -w 1
[root@localhost ~]# systemctl enable ipvsadm
  • 1.
  • 2.
  • 3.
  • 4.
  • 5.
  • 6.
  • 7.
  • 8.
  • 9.
  • 10.
  • 11.
  • 12.
  • 13.
  • 14.
  • 15.
  • 16.
  • 17.
  • 18.

注释:

-s:指定调度算法

rr:轮询

wrr:加权轮询

lc:最小链接数

wlc:加权最小连接数

-A    添加一个新的集群服务;

-E    修改一个己有的集群服务;

-D    删除指定的集群服务;

-a    向指定的集群服务中添加RS及属性;

-e    修改RS属性;

-t    指定为tcp协议;

-u    指定为udp协议;

-s    调度方法,默认为wlc;

-w    指定权重,默认为1;

-g    Gateway, DR模型;

-i    ipip, TUN模型;

-m    masquerade, NAT模型;

-S    保存ipvsadm设定的规则策略,默认保存在/etc/sysconfig/ipvsadm中;

-R    载入己保存的规则策略,默认加载/etc/sysconfig/ipvsadm;

-C    清除所有集群服务;

-Z    清除所有记数器;

-L    显示当前己有集群服务,能通过相应的options查看不同状态信息;

-r     指定真实服务器的地址

例如:

删除群集

[root@localhost ~]# ipvsadm -D -t 192.168.10.172:80
  • 1.



删除某个real server

[root@localhost ~]# ipvsadm -d -t 192.168.10.172:80 -r 192.168.10.103
  • 1.
3:配置web节点服务器

(1)在两个web节点安装httpd,并创建测试页

[root@localhost ~]# yum -y install httpd
[root@localhost ~]# systemctl stop firewalld 
[root@localhost ~]# setenforce 0
[root@localhost ~]# yum -y install nfs-utils
[root@localhost ~]# vi /var/www/html/index.html
LVS test1
  • 1.
  • 2.
  • 3.
  • 4.
  • 5.
  • 6.

注意:

另一台web节点的测试页面可以修改为其他文字,这样在测试时,就可以看到调度效果

vi /var/www/html/index.html
LVS test2
  • 1.
  • 2.

(2)启动httpd服务

[root@localhost ~]# systemctl start httpd
[root@localhost ~]# systemctl enable httpd
  • 1.
  • 2.
4:测试LVS群集

客户端测试网站http://172.16.16.172

可以刷新页面,观察页面的变化,是否在多个web站点中实现负载均衡

5:在LVS上产看调度信息
[root@localhost ~]# ipvsadm -ln    查看调度信息
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:Port           Forward Weight ActiveConn InActConn
TCP  172.16.16.172:80 rr
-> 192.168.10.102:80              Masq    1      0          0         
-> 192.168.10.103:80              Masq    1      0          0
  • 1.
  • 2.
  • 3.
  • 4.
  • 5.
  • 6.
  • 7.

注释:

ActiveConn是活动连接数,也就是tcp连接状态的ESTABLISHED

InActConn是指除了ESTABLISHED以外的,所有的其它状态的tcp连接

备注:共有十个连接状态,常见的如下

LISTENING状态

服务启动后首先处于侦听(LISTENING)状态。

ESTABLISHED状态

ESTABLISHED的意思是建立连接。表示两台机器正在通信。

CLOSE_WAIT

对方主动关闭连接或者网络异常导致连接中断,这时我方的状态会变成CLOSE_WAIT 此时我方要调用close()来使得连接正确关闭

TIME_WAIT

我方主动调用close()断开连接,收到对方确认后状态变为TIME_WAIT。

SYN_SENT状态

SYN_SENT状态表示请求连接,当你要访问其它的计算机的服务时首先要发个同步信号给该端口,此时状态为SYN_SENT,如果连接成功了就变为ESTABLISHED

6:linux做客户端时可以用以下代码进行测试
[root@localhost ~]# for i in $(seq 10);do curl 172.16.16.172;done
  • 1.

或者

[root@localhost ~]#curl 172.16.16.172
  • 1.

3.2:NFS共享存储服务

1:使用NFS发布共享资源
(1)安装nfs-utils、rpcbind软件包
[root@localhost ~]# systemctl stop firewalld 
[root@localhost ~]# setenforce 0
[root@localhost ~]# yum -y install nfs-utils rpcbind
[root@localhost ~]# systemctl enable nfs
[root@localhost ~]# systemctl enable rpcbind
  • 1.
  • 2.
  • 3.
  • 4.
  • 5.
(2)设置共享目录
[root@localhost ~]# mkdir -p /opt/wwwroot
[root@localhost ~]# vi /etc/exports
/opt/wwwroot   192.168.10.0/24(rw,sync,no_root_squash)
  • 1.
  • 2.
  • 3.

备注:

 rw 可读写的权限 

 ro 只读的权限 

no_root_squash登入NFS主机,使用该共享目录时相当于该目录的拥有者,如果是root的话,那么对于这个共享的目录来说,他就具有root的权限,这个参数极不安全,不建议使用

sync资料同步写入到内存与硬盘当中

async 资料会先暂存于内存当中,而非直接写入硬盘 

(3)启动NFS服务程序
[root@localhost ~]# systemctl start rpcbind
[root@localhost ~]# systemctl start nfs
[root@localhost ~]# netstat -anpt | grep rpc
tcp        0      0 0.0.0.0:20048     0.0.0.0:*               LISTEN      44153/rpc.mountd    
tcp        0      0 0.0.0.0:50661     0.0.0.0:*               LISTEN      7511/rpc.statd      
tcp6       0      0 :::20048          :::*                    LISTEN      44153/rpc.mountd    
tcp6       0      0 :::54742          :::*                    LISTEN      7511/rpc.statd
  • 1.
  • 2.
  • 3.
  • 4.
  • 5.
  • 6.
  • 7.


(4)查看本机发布的NFS共享目录
[root@localhost ~]# showmount -e
Export list for localhost.localdomain:
/opt/wwwroot 192.168.7.0/24
/var/ftp/pub 192.168.10.173,192.168.7.172
  • 1.
  • 2.
  • 3.
  • 4.
(5)在web节点挂载nfs
[root@localhost ~]#yum -y install nfs-utils
[root@localhost ~]# mount -t nfs 192.168.10.105:/opt/wwwroot /var/www/html
  • 1.
  • 2.

2:在nfs上创建测试网页

[root@localhost ~]# vi /var/www/html/index.html
LVS test
  • 1.
  • 2.

3:linux做客户端时可以用一下代码进行测试

[root@localhost ~]# for i in $(seq 10);do curl 172.16.16.172;done
  • 1.