LVS负载均衡群集

一、 LVS 群集应用基础

群集的称呼来自于英文单词“Cluster”，表示一群、一串的意思，用在服务器领域则表示大量服务器的集合体，以区分于单个服务器。本节将对群集的结构、工作模式、LVS 虚拟应用，以及 NFS 共享存储介绍及使用

1：群集的类型：

• 1. 负载均衡群集(Load Balance Cluster)：以提高应用系统的响应能力、尽可能处理更多的访问请求、减少延迟为目标,获得高并发、高负载的整体性能。例如,“DNS轮询”“应用层交换”“反向代理”等都可用作负载均衡群集。LB 的负载分配依赖于主节点的分流算法,将来自客户机的访问请求分担给多个服务器节点，从而缓解整个系统的负载压力
  2. 高可用群集(High Availability Cluster)：以提高应用系统的可靠性、尽可能地减少中断时间为目标，确保服务的连续性，达到高可用(HA)的容错效果。例如，“故障切换”“双机热备”“多机热备”等都属于高可用群集技术。H 的工作方式包括双工和主从两种模式。双工即所有节点同时在线;主从则只有主节点在线，但当出现故障时从节点能自动切换为主节点
  3. 高性能运算群集(High Performance Computer Cluster)：以提高应用系统的 CPU运算速度、扩展硬件资源和分析能力为目标，获得相当于大型、超级计算机的高性能运算(HPC)能力。例如,“云计算”“网格计算”也可视为高性能运算的一种。高性能运算群集的高性能依赖于“分布式运算”“并行计算”，通过专用硬件和软件将多个服务器的 CPU、内存等资源整合在一起，实现只有大型、超级计算机才具备的计算能力

2：负载均衡的分层结构：

前端至少有一个负载调度器(Load Balancer，或称为Director)负责响应并分发来自客户机的访问请求；后端由大量真实服务器(Real Server)构成服务器池(Server Poo1)，提供实际的应用服务,整个群集的伸缩性通过增加、删除服务器节点来完成，而这些过程对客户机是透明的；为了保持服务的一致性，所有节点使用共享存储设备

• 第一层，负载调度器:这是访问整个群集系统的唯一入口，对外使用所有服务器共有的 VIP(Virtual IP，虚拟 IP)地址，也称为群集 IP 地址。通常会配置主、备两台调度器实现热备份，当主调度器失效以后能够平滑替换至备用调度器,确保高可用性
• 第二层，服务器池:群集所提供的应用服务(如HTTP、FTP)由服务器池承担，其中每个节点具有独立的 RIP(Real IP，真实 IP)地址，只处理调度器分发过来的客户机请求。当某个节点暂时失效时，负载调度器的容错机制会将其隔离，等待错误排除以后再重新纳入服务器池
• 第三层，共享存储:为服务器池中的所有节点提供稳定、一致的文件存取服务，确保整个群集的统一性。在 Linux/UNIX环境中，共享存储可以使用 NAS 设备，或者提供 NFS(Network File System，网络文件系统)共享服务的专用服务器

3：负载均衡的工作模式：

• 地址转换(Network Address Translation):简称 NAT 模式，类似于防火墙的私有网络结构，负载调度器作为所有服务器节点的网关，即作为客户机的访问入口，也是各节点回应客户机的访问出口。服务器节点使用私有 IP地址，与负载调度器位于同一个物理网络，安全性要优于其他两种方式
• IP 隧道(IP Tunnel):简称 TUN 模式，采用开放式的网络结构，负载调度器仅作为客户机的访问入口，各节点通过各自的 Internet 连接直接回应客户机，而不再经过负载调度器。服务器节点分散在互联网中的不同位置，具有独立的公网 IP地址，通过专用 IP隧道与负载调度器相互通信
• 直接路由(Direct Routing):简称 DR 模式，采用半开放式的网络结构，与 TUN模式的结构类似,但各节点并不是分散在各地,而是与调度器位于同一个物理网络。负载调度器与各节点服务器通过本地网络连接，不需要建立专用的IP 隧道

一.5、 LVS 虚拟服务器

1：LVS的负载调度算法

• 轮询(RoundRobin)：将收到的访问请求按照顺序轮流分配给群集中的各节点，均等地对待每台服务器，而不管服务器实际的连接数和系统负载
• 加权轮询(Weighted Round Robin)：根据调度器设置的权重值来分发请求，权重值高的节点优先获得任务并且分配的请求越多,这样可以保证性能高的节点承担更多请求
• 最少连接(Least Connections)：根据真实服务器已建立的连接数进行分配，将收到的访问请求优先分配给连接数最少的节点。如果所有的服务器节点性能相近，采用这种方式可以更好地均衡负载
• 加权最少连接(Weighted Least Connections)：在服务器节点的性能差异较大的情况下,调度器可以根据节点服务器负载自动调整权重,权重较高的节点将承担更大比例的活动连接负载

2：使用 ipvsadm 管理工具

• • ipvsadm 是在负载调度器上使用的 LVS 群集管理工具，通过调用 ip_vs 模块来添加、删除服务器节点，以及查看群集的运行状态

[root@localhost ~# yum y install ipvsadm
[root@localhost ~]# ipvsadm -v
ipvsadm v1.27 2008/5/15(compiled with popt and IPVS vl.2.1)    

• • LVS 群集的管理工作主要包括创建虚拟服务器、添加服务器节点、查看群集节点状态、删除服务器节点和保存负载分配策略

二、 实验配置

• 地址转换模式（LVS-NAT）

（1）配置负载调度器

[root@localhost ~]# setenforce 0
[root@localhost ~]# systemctl stop firewalld
[root@localhost ~# yum y install ipvsadm
[root@localhost ~]# ipvsadm -v
ipvsadm v1.27 2008/5/15(compiled with popt and IPVS vl.2.1)    
[root@localhost ~]# vi /etc/sysctl.conf     //开启路由转发功能
net.ipv4.ip_forward = 1
[root@localhost ~]# sysctl -p        //重新加载

[root@localhost ~]# ipvsadm -C
[root@localhost ~]# ipvsadm -A -t 172.16.16.172:80 -s rr        //-s：指定调度算法/ rr：轮询/ wrr：加权轮询/ lc：最小链接数/ wlc：加权最小连接数
[root@localhost ~]# ipvsadm -a -t 172.16.16.172:80 -r 192.168.10.102:80 -m -w 1
[root@localhost ~]# ipvsadm -a -t 172.16.16.172:80 -r 192.168.10.103:80 -m -w 1

[root@localhost ~]# ipvsadm-save
-A -t localhost.localdomain:http -s rr
-a -t localhost.localdomain:http -r 192.168.10.102:http -m -w 1
-a -t localhost.localdomain:http -r 192.168.10.103:http -m -w 1
[root@localhost ~]# systemctl enable ipvsadm

ipvsadm选项	描述
-A	添加一个新的集群服务
-E	修改一个已有的集群服务
-D	删除指定的集群服务
-a	向指定的集群服务中添加RS（Real Server，真实服务器）及属性
-d	删除某一个指定规则
-e	修改RS（真实服务器）属性
-t	指定为TCP协议
-u	指定为UDP协议
-s	调度方法，默认为wlc（Weighted Least Connections，加权最少连接数）
-w	指定权重，默认为1
-g	Gateway，DR（Direct Routing，直接路由）模型
-i	ip隧道, TUN模型
-m	Masquerade, NAT（Network Address Translation，网络地址转换）模型
-S	保存ipvsadm设定的规则策略，默认保存在/etc/sysconfig/ipvsadm中
-R	载入已保存的规则策略，默认加载/etc/sysconfig/ipvsadm
-C	清除所有集群服务
-Z	清除所有记数器
-L	显示当前已有的集群服务，能通过相应的options查看不同状态信息
-r	指定真实服务器的地址

（2）配置web节点服务器

（1）在两个web节点安装httpd，并创建测试页
[root@localhost ~]# yum -y install httpd
[root@localhost ~]# systemctl stop firewalld 
[root@localhost ~]# setenforce 0
[root@localhost ~]# yum -y install nfs-utils
[root@localhost ~]# vi /var/www/html/index.html
LVS test1

注意：
另一台web节点的测试页面可以修改为其他文字，这样在测试时，就可以看到调度效果
vi /var/www/html/index.html
LVS test2

（2）启动httpd服务
[root@localhost ~]# systemctl start httpd
[root@localhost ~]# systemctl enable httpd

测试LVS群集

客户端测试网站http://172.16.16.172
可以刷新页面，观察页面的变化，是否在多个web站点中实现负载均衡

（3）在LVS上产看调度信息

[root@localhost ~]# ipvsadm -ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  -> RemoteAddress:Port           Forward Weight ActiveConn InActConn
TCP  172.16.16.172:80 rr
  -> 192.168.10.102:80              Masq    1      0          0         
  -> 192.168.10.103:80              Masq    1      0          0  
  //ActiveConn是活动连接数,也就是tcp连接状态的ESTABLISHED
//InActConn是指除了ESTABLISHED以外的,所有的其它状态的tcp连接

共有十个连接状态,常见的几个
LISTENING状态	服务启动后首先处于侦听（LISTENING）状态
ESTABLISHED状态	ESTABLISHED的意思是建立连接。表示两台机器正在通信
CLOSE_WAIT	对方主动关闭连接或者网络异常导致连接中断，这时我方的状态会变成CLOSE_WAIT 此时我方要调用close()来使得连接正确关闭
TIME_WAIT	我方主动调用close()断开连接，收到对方确认后状态变为TIME_WAIT
SYN_SENT状态	SYN_SENT状态表示请求连接，当你要访问其它的计算机的服务时首先要发个同步信号给该端口，此时状态为SYN_SENT，如果连接成功了就变为ESTABLISHED

linux做客户端时可以用以下代码进行测试

[root@localhost ~]# for i in $(seq 10);do curl 172.16.16.172;done

NFS共享存储服务

（1）配置负载调度器

（1）安装nfs-utils、rpcbind软件包
[root@localhost ~]# systemctl stop firewalld 
[root@localhost ~]# setenforce 0
[root@localhost ~]# yum -y install nfs-utils rpcbind
[root@localhost ~]# systemctl enable nfs
[root@localhost ~]# systemctl enable rpcbind

（2）设置共享目录
[root@localhost ~]# mkdir -p /opt/wwwroot
[root@localhost ~]# vi /etc/exports
/opt/wwwroot   192.168.10.0/24(rw,sync,no_root_squash)

可以同时发布多个目录，并且可以为不同的客户端设置不同的访问权限

• rw 可读写的权限 
• ro 只读的权限 
• no_root_squash 登入NFS主机，使用该共享目录时相当于该目录的拥有者，如果是root的话，那么对于这个共享的目录来说，他就具有root的权限，这个参数极不安全，不建议使用
• root_squash 登入NFS主机，使用该共享目录时相当于该目录的拥有者。但是如果是以root身份使用这个共享目录的时候，那么这个使用者（root）的权限将被压缩成为匿名使用者，即通常他的UID与GID都会变成nobody那个身份
• all_squash 不论登入NFS的使用者身份为何，他的身份都会被压缩成为匿名使用者，通常也就是nobody
• sync 资料同步写入到内存与硬盘当中 
• async 资料会先暂存于内存当中，而非直接写入硬盘 
• insecure 允许从这台机器过来的非授权访问

（3）启动NFS服务程序
[root@localhost ~]# systemctl start rpcbind
[root@localhost ~]# systemctl start nfs
[root@localhost ~]# netstat -anpt | grep rpc
tcp        0      0 0.0.0.0:20048     0.0.0.0:*               LISTEN      44153/rpc.mountd    
tcp        0      0 0.0.0.0:50661     0.0.0.0:*               LISTEN      7511/rpc.statd      
tcp6       0      0 :::20048          :::*                    LISTEN      44153/rpc.mountd    
tcp6       0      0 :::54742          :::*                    LISTEN      7511/rpc.statd 

（4）查看本机发布的NFS共享目录
[root@localhost ~]# showmount -e
Export list for localhost.localdomain:
/opt/wwwroot 192.168.7.0/24
/var/ftp/pub 192.168.10.173,192.168.7.172

（5）在web节点挂载nfs
[root@localhost ~]# yum -y install nfs-utils
[root@localhost ~]# mount -t nfs 192.168.10.105:/opt/wwwroot /var/www/html

在nfs上创建测试网页----linux做客户端时可以用一下代码进行测试

[root@localhost ~]# vi /var/www/html/index.html
LVS test


[root@localhost ~]# for i in $(seq 10);do curl 172.16.16.172;done