LVS负载均衡群集-直接路由模式
直接路由(Direct Routing)简称 DR模式;采用半开放式的网络结构,与TUN模式的结构类似,但各节点并不是分散在各地,而是与调度器位于同一物理网络;负载调度器与各节点服务器通过本地网络连接,不需要建立专用的IP隧道。
LVS-DR数据包流向分析
1.Client向目标VIP发出请求,Director(负载均衡器)接收。
2.Director根据负载均衡算法选择RealServer_1,不修改也不封装IP报文,而是将数据帧的MAC地址改为RealServer_1的MAC地址,然后在局域网上发送。
3.RealServer 1收到这个帧,解封装后发现目标IP与本机匹配(RealServer事先绑定VIP),于是处理这个报文。随后重新封装报文,发送到局域网。
4.Client将收到回复报文。Client认为得到正常的服务,而不会知道是哪一台服务器处理的。
注意:如果跨网段,则报文通过路由器经由Internet返回给用户。
ens33:192.168.57.135
注:为了方便进行原来分析,将Client(客户机)与群集机器放在同一网络中,数据包流经的路线为1-2-3-4。
LVS-DR中的ARP的问题
在局域网中具有相同的IP地址,势必会造成各服务器ARP通信的紊乱
1.当ARP广播发送到LVS-DR集群时,因为负载均衡器和节点服务器都是连接到相同的网络上,它们都会接收到ARP广播。
2.只有前端的负载均衡器进行响应,其他节点服务器不应该响应ARP广播。
对节点服务器进行处理,使其不响应针对VIP的ARP请求。
1.使用虚接口lo:0承载VIP地址。
2.设置内核参数arp_ignore=1:系统只响应目的IP本地IP的ARP请求。
1.RealServer返回报文(源IP是VIP)经路由器转发,重新封装报文时,需要先获取路由器的MAC地址。
2.发送ARP请求时,Linux默认使用IP包的源IP地址(即VIP)作为ARP请求包中的源P地址,而不使用发送接口的IP地址。
3.路由器收到ARP请求后,将更新ARP表项。
4.原有的VIP对应Director的MAC地址会被更新为VIP对应RealServer。
问题
路由器根据ARP表项,会将新来的请求报文转发给RealServer,导致Director的VIP失效。
解决方法
对节点服务器进行处理,设置内核参数arp announce=2:系统不使用IP包的源地址来设置ARP请求的源地址,而选择发送接口的IP地址。
解决ARP的两个问题方法
修改/etclsysctl.conf文件
net.ipv4.cnf.lo.arp_ignore = 1
net.ipv4.conf.lo.arp_announce = 2
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2
LVS负载均衡群集-直接路由模式(LVS-DR)
为了进一步提高公司网站的负载能力,公司决定扩展现有的网站平台,基于LVS构筑负载均衡群集。考虑到群集的访问效率,管理员准备采用LVS群集的DR模式,共享存储设备存放在内部专有网络中。
环境:
调度服务器台:
IP地址:192.168.100.101
Web服务器一台:
IP地址:192.168.100.2(SERVER AA)
NFS服务器一台:
IP地址:192.168.100.4
客户端一台:用于测试验证
TP地址:192.168.100.5
调度服务器台:
IP地址:192.168.100.101
yum -y insatll httpd
yum -y insatll ipvsadm
vi dr.sh
#!/bin/bash
ifconfig ens33:0 192.168.100.200 broadcast 192.168.100.200 netmask 255.255.255.255 up '添加虚拟地址的虚接口'
route add -host 192.168.100.200 dev ens33:0 '给ens33:0添加路由'
ipvsadm -C
ipvsadm -A -t 192.168.100.200:80 -s rr '创建虚拟服务器'
ipvsadm -a -t 192.168.100.200:80 -r 192.168.100.2:80 -g '添加服务器节'
ipvsadm -Ln '查看节点'
chmod +x /web.sh
./web.sh
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:Port Forward Weight ActiveConn InActConn
TCP 192.168.100.200:80 rr
-> 192.168.100.2:80 Route 1 0 0
route -n '虚拟地址加上没有查看'
192.168.100.0 0.0.0.0 255.255.255.0 U 0 0 0 ens33
192.168.100.200 0.0.0.0 255.255.255.255 UH 0 0 0 ens33
ipvsadm -Lnc '查看节点状态 端口信息 地址'
IPVS connection entries
pro expire state source virtual destination
TCP 14:58 ESTABLISHED 192.168.100.1:54372 192.168.100.200:80 192.168.100.2:80
TCP 14:56 ESTABLISHED 192.168.100.1:54371 192.168.100.200:80 192.168.100.2:80
Web服务器一台:
IP地址:192.168.100.2(SERVER AA)
yum -y insatll httpd
'前提是你NFS共享目录已经创建好'
mount 192.168.100.4:/web1 /var/www/html/ 'nfs共享目录挂载到/var/www/html'
df -h '查看挂载成功'
192.168.100.4:/web1 51G 5.4G 46G 11% /var/www/html
vi web.sh
#!/bin/bash
ifconfig ens33:0 192.168.100.200 broadcast 192.168.100.200 netmask 255.255.255.255 up
route add -host 192.168.100.200 dev lo:0
echo "1" > /proc/sys/net/ipv4/conf/lo/arp_ignore
echo "1" > /proc/sys/net/ipv4/conf/all/arp_ignore
echo "2" > /proc/sys/net/ipv4/conf/lo/arp_announce
echo "2" > /proc/sys/net/ipv4/conf/all/arp_announce
sysctl -p &> /dev/null
chmod +x /web.sh
./web.sh
route -n '虚拟地址加上没有查看'
Kernel IP routing table
Destination Gateway Genmask Flags Metric Ref Use Iface
192.168.100.0 0.0.0.0 255.255.255.0 U 100 0 0 ens33
192.168.100.200 0.0.0.0 255.255.255.255 UH 0 0 0 lo
192.168.122.0 0.0.0.0 255.255.255.0 U 0 0 0 virbr0
NFS服务器一台:
IP地址:192.168.100.4
mkdir /web1
echo "this is web1" > /web1/index.html '设置共享目录'
vi /etx/exports
/web1 192.168.100.2/32 (ro)
showmount -e
Export list for nfs:
/web1 (everyone)
systemctl restart nfs
systemctl restart rpcbind
systemctl restart httpd
谷歌浏览器访问192.168.100.200
LVS负载均衡群集—地址转换模式(LVS-NAT)