部署LVS-DR集群

目录

一、LVS-DR模式

1.1 工作原理

1.2 DR的数据包流向

二、LVS-DR中的ARP问题

2.1 IP地址冲突问题

2.2 再次访问的混乱

三、部署LVS-DR负载均衡群集

3.1 配置负载均衡调度器（192.168.58.18）

3.2 部署共享存储NFS（192.168.58.66）

3.3 配置节点服务（192.168.58.100、192.168.58.88） 

3.4 最后测试访问192.168.58.180 

总结

---

一、LVS-DR模式

1.1 工作原理

Direct Routing，简称DR模式采用半开放式的网络结构，与YUN模式的结构类似，但各节点并不是分散在各地，而是与调度器位于同一个物理网络负载调度器与各节点服务器通过本地网络连接，不需要建立专用的IP隧道

1、Client 向目标 VIP 发出请求，Director（负载均衡器）接收。此时源MAC 地址为Client MAC地址，目标MAC地址为 调度器Director 的MAC地址。

2、Director 根据负载均衡算法选择 RealServer_1，不修改也不封装IP报文，而是将数据帧的MAC地址改为RealServer_1的MAC地址，然后在局域网上发送。此时源MAC地址为Director的MAC地址，目的MAC地址为RealServer_1的MAC地址。

3、RealServer_1收到这个帧，解封装后发现目标IP与本机匹配（RealServer事先绑定了VIP），于是处理这个报文。随后重新封装报文，将响应报文通过 lo 接口传送给物理网卡然后向外发出。此时源MAC地址为RealServer_1的MAC地址，目的MAC地址为Client的MAC地址。

4、Client将收到回复的报文。Client 认为得到正常的服务，而不会知道是哪一台服务器处理的。

1.2 DR的数据包流向

①客户端发送请求到调度器，请求的报文时（源IP为客户端IP，目标IP为VIP）

②调度器收到后和站点服务器在同个网段会通过二层数据链路层传输

③内核空间判断数据包的目标IP是本机VIP，此时IPVS（IP虚拟服务器）比对数据包请求的服务是否是集群服务，是集群服务就重新封装数据包。修改源MAC地址为Director Server的MAc地址，修改目标MAC地址为Reaserver的MAC地址，源IP地址与目标IP地址没有改变，然后将数据包发送给Real Server。
④到达Real Server的请求报文的MAC地址是自身的 MAC地址，就接收此报文。数据包重新封装报文（源IP地址为VIP，目标IP为CIP），将响应报文通过lo接口传送给物理网卡然后向外发出。

⑤最后站点服务器直接响应给客户端

二、LVS-DR中的ARP问题

2.1 IP地址冲突问题

在LVS-DR负载均衡集群中，负载均衡器与节点服务器都要配置相同的VIP地址，在局域网中具有相同的IP地 址。势必会造成各服务器ARP通信的紊乱。

当ARP广播发送到LVS-DR集群时，因为负载均衡器和节点服务器都是连接到相同的网络上，它们都会接收到ARP广播只有前端的负载均衡器进行响应，其他节点服务器不应该响应ARP广播

解决的方法

对节点服务器进行处理，使其不响应针对VIP的ARP请求

用虚接口lo:0承载VIP地址

设置内核参数arp_ ignore=1: 系统只响应目的IP为本地IP的ARP请求

2.2 再次访问的混乱

当站点服务器直接发给客户端后，第二次访问会造成请求不经过调度器去直接访问站点服务器

解决的方法

对节点服务器进行处理，设置内核参数arp_announce=2：系统不使用IP包的源地址来设置ARP请求的源地址，而选择发送接口的IP地址

三、部署LVS-DR负载均衡群集

DR 服务器：192.168.58.18     

Web 服务器1：192.168.58.100     

Web 服务器2：192.168.58.88         

vip：192.168.58.180

NFS：192.168.58.66     

3.1 配置负载均衡调度器（192.168.58.18）

systmctl stop firewalld.service

setenforce 0

modprobe ip_vs

cat /proc/net/ip_vs

yum -y install ipvsadm

配置虚拟 IP 地址（VIP：192.168.58.180）

cd /etc/syscofig/network-scripts/

cp ifcfg-ens33 ifcfg-ens33:0 #若隧道模式，复制为ifcfg-tunl0

vim ifcfg-ens33:0

DEVICE=ens33:0

ONBOOT=yes

IPADDR=192.168.58.180

NETMASK=255.255.255.255

ifup ens33:0

ifconfig ens33:0

 

 

调整 proc 响应参数

#由于 LVS 负载调度器和各节点需要共用 VIP 地址，需要关闭 icmp 的重定向，不充当路由器。

vim /etc/sysctl.conf

net.ipv4.ip_forward = 0

net.ipv4.conf.all.send_redirects = 0

net.ipv4.conf.default.send_redirects = 0

net.ipv4.conf.ens33.send_redirects = 0

sysctl -p

 

 

配置负载分配策略

ipvsadm-save > /etc/sysconig/ipvsadm

systemctl start ipvsadm

ipvsadm -C

ipvsadm -A -t 192.168.58.180:80 -s rr

ipvsadm -a -t 192.168.58.180:80 -r 192.168.58.88:80 -g #若隧道模式，-g替换为-i

ipvsadm -a -t 192.168.58.180:80 -r 192.168.58.100:80 -g

ipvsadm

ipvsadm -ln #查看节点状态，Route代表 DR模式

 

3.2 部署共享存储NFS（192.168.58.66）

 

systemctl stop firwalld.service

setenforce 0

yum -y install nfs-utils rpcbind

mkdir /opt/zhang /opt/ning

chmod 777 /opt/zhang /opt/ning

 

vim /etc/exports

/usr/share *(rw，sync)

/opt/zhang 192.168.58.0/24(rw,sync)

/opt/ning 192.168.58.0/24(rw,sync)

 

3.3 配置节点服务（192.168.58.100、192.168.58.88） 

systemctl stop firewalld.service

setenforce 0

配置虚拟 IP 地址（VIP：192.168.58.180）

#此地址仅用作发送 Web响应数据包的源地址，并不需要监听客户机的访问请求（改由调度器监听并分发）。因此使用虚接口 lo∶0 来承载 VIP 地址，并为本机添加一条路由记录，将访问 VIP 的数据限制在本地，以避免通信紊乱。

cd /etc/sysconfig/network-scripts/

cp ifcfg-lo ifcfg-lo:0

vim ifcfg-lo:0

DEVICE=lo:0

ONBOOT=yes

IPADDR=192.168.58.180

NETMASK=255.255.255.255

route add -host 192.168.58.180 dev lo:0

vim /etc/rc.local

/sbin/route add -host 192.168.58.180 dev lo:0

chmod +x /etc/rc.d/rc.local

 

 

 

调整内核的 ARP 响应参数以阻止更新 VIP 的 MAC 地址，避免发生冲突

vim /etc/sysctl.conf

......

net.ipv4.conf.lo.arp_ignore = 1 #系统只响应目的IP为本地IP的ARP请求

net.ipv4.conf.lo.arp_announce = 2 #系统不使用IP包的源地址来设置ARP请求的源地址，而选择发送接口的IP地址

net.ipv4.conf.all.arp_ignore = 1

net.ipv4.conf.all.arp_announce = 2

Sysctl -p

 

 

yum -y install nfs-utils rpcbind httpd

systemctl start rpcbind

systemctl start httpd

--192.168.58.88---

mount.nfs 192.168.58.66:/opt/ning/var/www/html

echo '2!' > /var/www/html/index.html

--192.168.58.100---

mount.nfs 192.168.58.66:/opt/zhang /var/www/html

echo '这是第一个' > /var/www/html/index.html

3.4 最后测试访问192.168.58.180 

 

 

总结

1.LVS-DR模式的工作原理

2.LVS-DR的问题

3.部署LVS-DR负载均衡群集