一、DR模式 直连路由
1.1介绍:
直接路由(Direct Routing):简称 DR 模式,采用半开放式的网络结构,与 TUN 模式的结构类似,但各节点并不是分散在各地,而是与调度器位于同一个物理网络。
负载调度器与各节点服务器通过本地网络连接,不需要建立专用的 IP 隧道。
直接路由,LVS默认模式,应用最广泛,通过请求报文重新封装一个MAC首部进行转发,源MAC是DIP所在的接口的MAC,目标MAC是某挑选出的RS的RIP所在接口的MAC地址;源IP/PORT,以及目标IP/PORT均保持不变。
1.2DR模式的特点
1.Director 和各RS都配置有VIP
2.确保前端路由器将目标IP为VIP的请求报文发往Director
-
在前端网关做静态绑定VIP和 Director 的MAC地址
-
在RS上使用 arptables 工具
arptables -A IN -d $VIP -j DROP
arptables -A OUT -s $VIP -j mangle --mangle-ip-s $RIP
3.在RS上修改内核参数以限制arp通告及应答级别
/proc/sys/net/ipv4/conf/all/arp_ignore 忽略arp广播
/proc/sys/net/ipv4/conf/all/arp_announce 关闭无故arp
RS 的 RIP 可以使用私网地址,也可以是公网地址;RIP与DIP在同一IP网络;RIP的网关不能指向DIP,以确保响应报文不会经由 Director
4.RS和Director要在同一个物理网络
5.请求报文要经由Director,但响应报文不经由Director,而由RS直接发往Client
6.不支持端口映射(端口不能修改)
7.无需开启 ip_forward
8.RS可使用大多数OS系统
1.3DR 中的ARP问题
1.3.1VIP地址相同导致响应冲突
问题原因:
在 LVS-DR 负载均衡集群中,负载均衡器与节点服务器都要配置相同的 VIP 地址,在局域网中具有相同的 IP 地址,势必会造成各服务器 ARP 通信的紊乱。
- 当ARP广播发送到LVS-DR集群时,因为负载均衡器和节点服务器都是连接到相同的网络上,它们都会收到ARP广播。
- 只有前端的负载均衡器进行响应,其他节点服务器不应该响应ARP广播。
解决方法:
对节点服务器进行处理,使其不响应针对VIP的ARP请求
- 使用虚接口lo:0承载VIP地址
- 设置内核参数 arp_ ignore=1:系统只响应目的IP为本地IP(物理网卡的地址,而不是lo网卡的虚接口地址)的ARP请求。
1.3.2返回报文时源地址使用VIP,导致网关设备的ARP缓存表紊乱
问题原因:
- RealServer 返回报文(源IP是VIP)经路由器转发,重新封装报文时,需要先获取路由器的MAC地址。
- 发送ARP请求时,Linux默认使用IP包的源IP地址(即VIP)作为ARP请求包中的源IP地址,而不使用发送接口的IP地址。
- 路由器收到ARP请求后,将更新ARP表项。原有的VIP对应 Director 的MAC地址,会被更新为VIP对应的 Real Server 的MAC地址。导致网关设备的ARP缓存表紊乱。
- 路由器根据ARP表项,会将新来的请求报文转发给Real Server,导致Director的VIP失效。
解决方法:
对节点服务器进行处理,设置内核参数 arp_announce=2:系统不使用IP数据包的源地址来设置ARP请求的源地址,而选择发送接口(物理网卡)的IP地址。
1.4IP 隧道模式:
- RIP 和 DIP 可以不处于同一物理网络中,RS 的网关一般不能指向 DIP,且 RIP 可以和公网通信,也就是说集群节点可以跨互联网实现。DIP, VIP, RIP可以是公网地址。
- RealServer 的通道接口上需要配置VIP地址,以便接收DIP转发过来的数据包,以及作为响应的报文源IP。
- DIP转发给RealServer时需要借助隧道,隧道外层的IP头部的源IP是DIP,目标IP是RIP,而RealServer响应给客户端的IP头部是根据隧道内层的IP头分析得到的,源IP是VIP,目标IP是CIP
- 请求报文要经由Director,但响应不经由Director,响应由 RealServer 自己完成
- 不支持端口映射
- RS的OS须支持隧道功能
一般来说,隧道模式常会用来负载调度缓存服务器组,这些缓存服务器一般放置在不同的网络环境,可以就近折返给客户端。在请求对象不在 Cache 服务器本地命中的情况下,Cache 服务器要向源服务器发送请求,将结果取回,最后将结果返回给用户。