LVS负载均衡软件

简介

LVS=Linux Virtaual Server，即Linux虚拟服务器。它是国内的一个开元项目。在Linux内核2.6中，它已经成为内核的一部分，再次之前内核版本则需要重新编译内核。
LVS主要用于多服务器的负载均衡。它工作在网络4层，可以实现高性能。高可用的服务器集群技术。
廉价，可把许多低性能的服务器组合在一起形成一个超级服务器。
易用，配置非常简单，且有多种负载均衡的方法。
稳定可靠，即使在集群的服务器中某台服务器无法正常工作，也不影响整体效果。另外可扩展性也非常好。
针对高可伸缩、高可用网络服务的需求，我们给出了基于ip层和基于内容请求分发的负载均衡调度解决方法，并在linux内核中实现了这些方法，将一组服务器构成一个实现可伸缩的、高可用网络服务的虚拟服务器。
虚拟服务器的体系结构如图所示

一组服务器通过高速的局域网或者地理分布的广域网互相连接，在他们的前端有一个负载调度器（Load Balancer）。负载调度器能无缝的将网络请求调度到真实服务器上，从而使服务器集群的结构对客户是透明的，客户访问集群系统提供的网络服务就像访问一台高性能、高可用的服务器一样。由于我们的负载调度技术是在linux内核实现的，我们称之为linux虚拟服务器LVS

Linux Virtual Server项目的目标;使用集群技术和linux操作系统实现一个高性能、高可用的服务器，它具有很好的可伸缩性（Scalability）、可靠性（Reliability）和可管理性（Manageability）。
目前，LVS项目已提供了一个实现可伸缩网络服务的Linux Virtual Server框架，如图所示
IPVS:提供了含有三种IP负载均衡技术的IP虚拟服务器软件。
KTCPVS:基于内容请求分发的内核Layer-7交换机
Cluster Management：集群管理软件

可以利用LVS框架实现高伸缩、高可用的web、cache、mail和media等网络服务；在此基础上，可以开发支持庞大用户数的、高伸缩、高可用的电商应用。
网络7层模型：
应用层（Application）、表现层（Presentation）、会话层（Session）、传输层（Transport）、网络层（Network）、数据链路层（Data Link）、物理层（Physical）。Nginx工作在7层模型下。
TCP/IP4层模型：
应用层、传输层、网络层、网络接口层。LVS工作在4层模型下

IP虚拟服务器软件IPVS

在调度器的实现技术中，IP负载均衡技术是效率最高的。IPVS软件实现了三种IP负载均衡技术，大致原理如下：
Virtual Server via Direct Routing（VS/DR）
VS/DR通过改写请求报文的mac地址，将请求发送到真实服务器，而真实服务器将响应直接返回给客户。同VS/TUN技术一样，VS/DR技术科极大的提高集群系统的伸缩性。这种方法没有IP隧道的开销，对集群中的真实服务器也没有必须支持IP隧道协议的要求，但是要求调度器与真实服务器都有一块网卡连在同一个物理网段上。

Virtual Server via Network Address Translation（VS/NAT）
通过网络地址转换，，调度器重写请求报文的目标地址，根据预设的调度算法，将请求分派给后端的真实服务器；真实服务器的响应报文通过调度器时，报文的源地址被重写，再返回给客户，完成整个负载调度过程

Virtual Server via IP Tunneling（VS/TUN）
采用NAT技术时，由于请求和响应报文都必须经过调度器地址重写，当客户请求越来越多时，调度器的处理能力将成为瓶颈。为了解决这个问题，调度器把请求报文通过IP隧道转发至真实服务器，而真实服务器将响应直接返回给客户，所以调度器只处理请求报文。由于一般网络服务应答比请求报文大许多，采用VS/TUN技术后，集群系统的最大吞吐量可以提高10倍
IP隧道：
将一个带有目标源和IP的数据报文再次封装到新得源和IP,从而发送到指定的目标主机。

IPVS调度算法
针对不同的网络服务需求和服务器配置，IPVS调度器实现了八种负载调度算法：
1.轮叫（Round Robin）
2.加权轮叫（Weight Round Robin）
3.最少链接（Least Connections）
4.加权最少链接（Weight Least Connections）
5.基于局部性的最少链接（Locality-Based Least Connections）
6.带复制的基于局部性最少链接（Locality-Based Least Connections with Replication）
7.目标地址散列（Destination Hashing）
8.源地址散列（Source Hashing）

内核Layer-7交换机KTCPVS

由于用户控件TCP Gateway（网关）的开销太大，我们提出在操作系统的内核中实现Layer-7交换方法，来避免用户控件与核心空间的切换和内存复制的开销。在Linux操作系统的内核中，我们实现了Layer-7交换，称之为KTCPVS（kernel（内核） TCP Virtual Server）。
虽然应用层交换处理复杂，它的伸缩性有限，但应用层交换带来以下好处：

**想用页面的请求被发送到同一服务器，可以提高单台服务器的cache命中率。

**一些研究表明WEB访问流中存在局部性。Layer-7交换可以充分利用访问的局部性，将相同类型的请求发送到同一台服务器，使得每台服务器收到的请求具有更好的相似性，可进一步提高单台服务器的cache命中率。

**后端服务器可运行不同类型的服务，如文档服务，图片服务，CGI服务和数据库服务等

LVS集群功能特点

1.有实现三种IP负载均衡技术和八种链接调度算法的 IPVS软件。
2.在IPVS内部实现上，采用高效的Hash函数和垃圾回收机制，能正确处理所调度报文相关的ICMP消息。
3.虚拟服务的设置数目没有限制，每个虚拟服务有自己的服务器集。
4.它支持持久的虚拟服务（如HTTP Cookie和HTTPS等需要该功能的支持），并提供详尽的统计数据，如连接的处理速率和报文的流量等。
5.针对大规模拒绝服务（Deny of Service）攻击，实现了三种防卫策略。
6.有基于内容请求分发的应用层交换软件KTCPVS，它也是在linux内核中实现。
7有相关的集群管理软件对资源进行检测能即使将故障屏蔽，实现系统的高可用性。
8.主从调度器能周期性的进行状态同步，从而实现更高的可用性。

适用性

后端服务器可运行任何支持TCP/IP的操作系统，包括linux，各种unix（如FreeBSD、Sun solaris、HP Unix等），Mac/OS和Windows NT/2000等。负载调度器能够支持绝大多数的TCP和UDP协议

性能

LVS服务器集群系统具有良好的伸缩性，可支持几百万个并发链接。配置100M网卡，采用VS/TUN或VS/DR调度技术，集群系统的吞吐量可高达1GB/S；如配置千兆网卡，则系统最大吞吐量可接近10GB/S

可靠性

LVS服务器集群软件已经在很多大型的、关键性的沾点得到很好的应用，所以它的可靠性在真实应用得到很好的正式。有很多调度器运行一年多，未作一次重启动。

软件许可证

LVS集群软件是按GPL（GUN Public License）许可证发型的自由软件，这意味着你可以得到软件的源代码，有权对其进行修改，但必须保证你的修改也是以GPL方式发行。

LVS与Nginx对比

负载均衡	4层负载均衡	7层负载均衡
技术原理	IP+TCP端口	URL应用层（内容交换）
典型代表	LVS	Nginx、Haproxy、MySQL Proxy
优缺点	比如mysql、ftp、http等应用协议，满足不了特点需求，比如动静分离，缓存自定义等，但是配置简单，效率也很高。	对负载均衡设备要求很高，处理7层能力一般低于4层模式的部署方式，但有点比较智能化，比如动静分离，根据不同请求定义图片、缓存，可以对客户端请求和服务器的响应进行自定义修改，极大的提升了应用系统在网络层的灵活性
安全性	SYNFlood攻击，有的软4层应用则会转发到后端服务器，有的则可以防止攻击，这 设备局（软硬）有一定关系。	一般可以在7层进行拦截，不影响后台服务器正常运营，可以设置多种策略，过滤指定报文。
应用	对应tcp应用，比如C/S开发的ERP	应用广泛HTTP协议，应用主要是网站或内部信息平台等B/S开发系统。
案例	接收客户的syn请求，通过上述方式选择后端指定服务器，并对报文中目标ip地址进行修改，改为后端服务器ip，tcp链接是直接建立，而负载均衡类似路由器作用	如果要根据真正的应用层内容在选择服务器，则先代理最终服务器和客户端建立链接（三次握手）后，才能接受到客户端发送的真正应用层报文，然后根据该报文中特定字段，加上负载均衡设备的服务器选择方式，决定最终选择的内部服务器。此时充当代理服务器。