部署LVS-DR群集

目录

一.  LVS-DR 工作原理

二. 数据包流向分析

三. LVS-DR 模式的特点

四. ARP问题

1. 第一次访问完整（不考虑实际问题）

2. 问题一：IP 地址冲突

3. 问题二：第二次再有访问请求

五. 部署LVS—DR群集

1. 部署NFS（192.168.119.70）

1.1 关闭防火墙

1.2 安装nfs服务

1.3 开启服务

1.4 在opt下创建两个用来共享的目录

1.5 设置共享策略并发布服务

2. 配置负载调度器

2.1 关闭防火墙

2.2 安装ipvsadm工具

2.3 配置虚拟IP地址（VIP：192.168.119.100）

2.4 调整/proc响应参数

2.5 刷新配置

2.6 加载模块

2.7 配置负载分配策略，并启动服务

2.8 清空ipvsadm，并做策略

2.9 保存设置

3. web节点服务器

3.1 关闭防火墙

3.2 安装httpd服务并开启服务

3.3 创建站点并添加内容

3.4 添加回环网卡,修改回环网卡名，IP地址，子网掩码

3.5 设置路由

3.6 开机执行命令

3.7 调整proc响应参数

4. wind网页访问

---

一.  LVS-DR 工作原理

LVS-DR（Linux Virtual Server Director Server）工作模式，是生产环境中最常用的一 种工作模式。

• LVS-DR 模式，Director Server 作为群集的访问入口，不作为网关使用
• 节点 Director Server 与 Real Server 需要在同一个网络中，返回给客户端的数据不需要经过 Director Server
• 为了响应对整个群集的访问，Director Server 与 Real Server 都需要配置 VIP 地址

客户机发起请求，经过调度服务器（lvs），经过算法调度，去访问真实服务器（RS）

由于不原路返回，客户机不知道，真实主机的ip地址

所以只能通过调度服务器的外网ip（vip）去反回报文信息

二. 数据包流向分析

• 客户端发送请求到 Director Server,请求的数据报文（源 IP 是 CIP,目标 IP 是 VIP） 到达内核空间
• Director Server 和 Real Server 在同一个网络中，数据通过二层数据链路层来传输
• 内核空间判断数据包的目标 IP 是本机 VIP，此时 IPVS 比对数据包请求的服务是否是集群服务，是集群服务就重新封装数据包。修改源 MAC 地址为 Director Server 的 MAC 地址，修改目标 MAC 地址为 Real Server 的 MAC 地址，源 IP 地址与目标 IP 地址没有改 变，然后将数据包发送给 Real Server
• 到达 Real Server 的请求报文的 MAC 地址是自身的 MAC 地址，就接收此报文。数 据包重新封装报文(源 IP 地址为 VIP，目标 IP 为 CIP)，将响应报文通过 lo 接口传送给物理 网卡然后向外发出
• Real Server 直接将响应报文传送到客户端

三. LVS-DR 模式的特点

• Director Server 和 Real Server 必须在同一个物理网络中
• Real Server 可以使用私有地址，也可以使用公网地址。如果使用公网地址，可以通过 互联网对 RIP 进行直接访问
• 所有的请求报文经由 Director Server，但回复响应报文不能经过 Director Server
• Real Server 的网关不允许指向 Director Server IP，即不允许数据包经过 Director S erver
• Real Server 上的 lo 接口配置 VIP 的 IP 地址

四. ARP问题

1. 第一次访问完整（不考虑实际问题）

客户端---->外网地址12.0.0.188      12.0.0.188---->客户端 
#12.0.0.18-----客户端   客户端会直接丢弃
对每台真实服务器配置外网地址 12.0.0.188
12.0.0.188------>客户端   

2. 问题一：IP 地址冲突

在LVS-DR负载均衡集群中，负载均衡器与节点服务器都要配置相同的VIP地址，在局域网中具有相同的IP地 址。势必会造成各服务器ARP通信的紊乱

• 当ARP广播发送到LVS-DR集群时，因为负载均衡器和节点服务器都是连接到相同的网络上，它们都会接收到ARP广播
• 只有前端的负载均衡器进行响应，其他节点服务器不应该响应ARP广播

解决方法：

• 对节点服务器进行处理，使其不响应针对VIP的ARP请求
• 用虚接口lo:0承载VIP地址
• 设置内核参数arp_ ignore=1: 系统只响应目的IP为本地IP的ARP请求

路由器发送ARP请求（广播）
ARP---->广播去找ip地址解析成mac地址
默认使用调度服务器上的外网地址（vip地址）响应
需要在真实服务器上修改内核参数
使真实服务器只对自己服务器上的真实IP地址响应ARP解析

3. 问题二：第二次再有访问请求

RealServer返回报文（源IP是VIP）经路由器转发，重新封装报文时，需要先获取路由器的MAC地址，发送ARP请求时，Linux默认使用IP包的源IP地址（即VIP）作为ARP请求包中的源IP地址，而不使用发送接口的IP地址，路由器收到ARP请求后，将更新ARP表项，原有的VIP对应Director的MAC地址会被更新为VIP对应RealServer的MAC地址。路由器根据ARP表项，会将新来的请求报文转发给RealServer，导致Director的VIP失效

解决方法：

对节点服务器进行处理，设置内核参数arp_announce=2：系统不使用IP包的源地址来设置ARP请求的源地址，而选择发送接口的IP地址

路由器上绑定了 真实服务器1的mac信息，
#请求到达真实服务器
在真实服务器上修改内核参数
只对所有服务器真实网卡上的地址进行反馈，解析

五. 部署LVS—DR群集

1. 部署NFS（192.168.119.70）

1. #关闭防火墙
systemctl stop firewalld.service
systemctl disable firewalld.service
setenforce 0

2. #安装nfs服务
yum -y install nfs-utils rpcbind

3. #开启服务
systemctl start rpcbind.service
systemctl start nfs.service

4. #在opt下创建两个用来共享的目录
mkdir /opt/liup
mkdir /opt/zhux

5. #给创建的共享目录加权限
chmod 777 /opt/liup/
chmod 777 /opt/zhux/

6. #设置共享策略
vim /etc/exports
/opt/liup 192.168.119.0/24(rw,sync)
/opt/zhux 192.168.119.0/24(rw,sync)

7. #发布服务
exportfs -rv

1.1 关闭防火墙

1.2 安装nfs服务

1.3 开启服务

1.4 在opt下创建两个用来共享的目录

1.5 设置共享策略并发布服务

2. 配置负载调度器

1. #关闭防火墙
systemctl stop firewalld.service
setenforce 0

2. #安装ipvsadm工具
yum install ipvsadm.x86_64 -y

3. #配置虚拟IP地址（VIP：192.168.119.100）
cd /etc/sysconfig/network-scripts/
cp ifcfg-ens33 ifcfg-ens33:0
vim ifcfg-ens33:0
#删除UUID，dns与网关，注意子网

4. #重启网络服务、启动网卡
systemctl restart network
ifup ifcfg-ens33:0

5. #调整/proc响应参数  
vi /etc/sysctl.conf
net.ipv4.ip_forward = 0
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0

6. #刷新配置
sysctl -p

7. #加载模块
modprobe ip_vs
cat /proc/net/ip_vs

8. #配置负载分配策略，并启动服务
ipvsadm-save >/etc/sysconfig/ipvsadm
systemctl start ipvsadm.service

9. #清空ipvsadm，并做策略
ipvsadm -C
ipvsadm -A -t 192.168.119.100:80 -s rr
ipvsadm -a -t 192.168.119.100:80 -r 192.168.119.20:80 -g
ipvsadm -a -t 192.168.119.100:80 -r 192.168.119.30:80 -g

10. #保存设置
ipvsadm
ipvsadm -ln
ipvsadm-save >/etc/sysconfig/ipvsadm

2.1 关闭防火墙

2.2 安装ipvsadm工具

2.3 配置虚拟IP地址（VIP：192.168.119.100）

2.4 调整/proc响应参数

2.5 刷新配置

2.6 加载模块

2.7 配置负载分配策略，并启动服务

2.8 清空ipvsadm，并做策略

2.9 保存设置

3. web节点服务器

web1：192.168.119.20 ；web2：192.168.119.30

1. #关闭防火墙
systemctl stop firewalld.service
setenforce 0

2. #安装httpd服务并开启服务
yum install httpd -y
systemctl start httpd

3. #创建一个站点文件
vim /var/www/html/index.html

##web1（192.168.119.20）
<html>
<body>
<meta http-equiv="Content-Type" content="text/html;charset=utf-8">
<h1>人间归离复归离 ，借一浮生逃浮生</h1>
</body>
</html>

##web2（192.168.119.30）
<html>
<body>
<meta http-equiv="Content-Type" content="text/html;charset=utf-8">
<h1>我虽无意逐鹿，却知苍生苦楚，只愿荡涤四方，护得浮世一隅</h1>
</body>
</html>

cat /var/www/html/index.html

4. #添加回环网卡，修改回环网卡名，IP地址，子网掩码
cd /etc/sysconfig/network-scripts/
cp ifcfg-lo ifcfg-lo:0
vim ifcfg-lo:0

#重启网络
systemctl restart network

5. #设置路由
route add -host 192.168.119.100 dev lo:0
route -n

6. #开机执行命令
vim /etc/rc.d/rc.local
/usr/sbin/route add -host 192.168.59.188 dev lo:0
chmod +x /etc/rc.d/rc.local

7. #调整proc 响应参数
#添加系统只响应目的IP为本地IP的ARP请求
#系统不使用原地址来设置ARP请求的源地址，而是物理mac地址上的IP
vim /etc/sysctl.conf
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2
net.ipv4.conf.default.arp_ignore = 1
net.ipv4.conf.default.arp_announce = 2
net.ipv4.conf.lo.arp_ignore = 1
net.ipv4.conf.lo.arp_announce = 2
sysctl -p

3.1 关闭防火墙

3.2 安装httpd服务并开启服务

3.3 创建站点并添加内容

#Web1（192.168.119.20）

#Web2（192.168.119.30）

3.4 添加回环网卡,修改回环网卡名，IP地址，子网掩码

3.5 设置路由

3.6 开机执行命令

#加权限

3.7 调整proc响应参数

4. wind网页访问