1 .LVS 系统介绍

今计算机技术已进入以网络为中心的计算时期。由于客户 / 服务器模型的简单性、易管理性和易维护性，客户 / 服务器计算模式在网上被大量采用。在九十年代中期，万维网（ World Wide Web ）的出现以其简单操作方式将图文并茂的网上信息带给普通大众， Web 也正在从一种内容发送机制成为一种服务平台，大量的服务和应用（如新闻服务、网上银行、电子商务等）都是围绕着 Web 进行。这促进 Internet 用户剧烈增长和 Internet 流量爆炸式地增长，图 1 显示了 1995 至 2000 年与 Internet 连接主机数的变化情况 [1] ，可见增长趋势较以往更迅猛。


图 1 ： 1995 至 2000 年 Internet 主机数的变化

Internet 的飞速发展给网络带宽和服务器带来巨大的挑战。从网络技术的发展来看，网络带宽的增长远高于处理器速度和内存访问速度的增长，如 100M Ethernet 、 ATM 、 Gigabit Ethernet 等不断地涌现， 10Gigabit Ethernet 即将就绪，在主干网上密集波分复用（ DWDM ）将成为宽带 IP 的主流技术 [2,3] ， Lucent 已经推出在一根光纤跑 800Gigabit 的 WaveStar? OLS800G 产品 [4] 。所以，我们深信越来越多的瓶颈会出现在服务器端。很多研究显示 Gigabit Ethernet 在服务器上很难使得其吞吐率达到 1Gb/s 的原因是协议栈（ TCP/IP ）和操作系统的低效，以及处理器的低效，这需要对协议的处理方法、操作系统的调度和 IO 的处理作更深入的研究。在高速网络上，重新设计单台服务器上的网络服务程序也是个重要课题。

比较热门的站点会吸引前所未有的访问流量，例如根据 Yahoo 的新闻发布， Yahoo 已经每天发送 6.25 亿页面 [5] 。一些网络服务也收到巨额的流量，如 American Online 的 Web Cache 系统每天处理 50.2 亿个用户访问 Web 的请求，每个请求的平均响应长度为 5.5Kbytes 。与此同时，很多网络服务因为访问次数爆炸式地增长而不堪重负，不能及时处理用户的请求，导致用户进行长时间的等待，大大降低了服务质量。如何建立可伸缩的网络服务来满足不断增长的负载需求已成为迫在眉睫的问题。

大部分网站都需要提供每天 24 小时、每星期 7 天的服务，对电子商务等网站尤为突出，任何服务中断和关键性的数据丢失都会造成直接的商业损失。例如，根据 Dell 的新闻发布 [6] ， Dell 现在每天在网站上的交易收入为一千四百万美元，一个小时的服务中断都会造成平均五十八万美元的损失。所以，这对网络服务的可靠性提出了越来越高的要求。

现在 Web 服务中越来越多地使用 CGI 、动态主页等 CPU 密集型应用，这对服务器的性能有较高要求。未来的网络服务会提供更丰富的内容、更好的交互性、更高的安全性等，需要服务器具有更强的 CPU 和 I/O 处理能力。例如，通过 HTTPS （ Secure HTTP ）取一个静态页面需要的处理性能比通过 HTTP 的高一个数量级， HTTPS 正在被电子商务站点广为使用。所以，网络流量并不能说明全部问题，要考虑到应用本身的发展也需要越来越强的处理性能。

因此，对用硬件和软件方法实现高可伸缩、高可用网络服务的需求不断增长，这种需求可以归结以下几点：

  • 可伸缩性（Scalability），当服务的负载增长时，系统能被扩展来满足需求，且不降低服务质量。

  • 高可用性（Availability），尽管部分硬件和软件会发生故障，整个系统的服务必须是每天24小时每星期7天可用的。

  • 可管理性（Manageability），整个系统可能在物理上很大，但应该容易管理。

  • 价格有效性（Cost-effectiveness），整个系统实现是经济的、易支付的。

服务器集群系统

对称多处理（ Symmetric Multi-Processor ，简称 SMP ）是由多个对称的处理器、和通过总线共享的内存和 I/O 部件所组成的计算机系统。 SMP 是一种低并行度的结构，是我们通常所说的 " 紧耦合多处理系统 " ，它的可扩展能力有限，但 SMP 的优点是单一系统映像（ Single System Image ），有共享的内存和 I/O ，易编程。

由于 SMP 的可扩展能力有限， SMP 服务器显然不能满足高可伸缩、高可用网络服务中的负载处理能力不断增长需求。随着负载不断增长，会导致服务器不断地升级。这种服务器升级有下列不足：一是升级过程繁琐，机器切换会使服务暂时中断，并造成原有计算资源的浪费；二是越往高端的服务器，所花费的代价越大；三是 SMP 服务器是单一故障点（ Single Point of Failure ），一旦该服务器或应用软件失效，会导致整个服务的中断。

通过高性能网络或局域网互联的服务器集群正成为实现高可伸缩的、高可用网络服务的有效结构。这种松耦合结构的服务器集群系统有下列优点：

  • 性能
    网络服务的工作负载通常是大量相互独立的任务，通过一组服务器分而治之，可以获得很高的整体性能。

  • 性能/价格比
    组成集群系统的PC服务器或RISC服务器和标准网络设备因为大规模生产降低成本，价格低，具有最高的性能/价格比。若整体性能随着结点数的增长而接近线性增加，该系统的性能/价格比接近于PC服务器。所以，这种松耦合结构比紧耦合的多处理器系统具有更好的性能/价格比。

  • 可伸缩性
    集群系统中的结点数目可以增长到几千个，乃至上万个，其伸缩性远超过单台超级计算机。

  • 高可用性
    在硬件和软件上都有冗余，通过检测软硬件的故障，将故障屏蔽，由存活结点提供服务，可实现高可用性。

当然，用服务器集群系统实现可伸缩网络服务也存在很多挑战性的工作：

  • 透明性（Transparency）
    如何高效地使得由多个独立计算机组成的松藕合的集群系统构成一个虚拟服务器；客户端应用程序与集群系统交互时，就像与一台高性能、高可用的服务器交互一样，客户端无须作任何修改。部分服务器的切入和切出不会中断服务，这对用户也是透明的。

  • 性能（Performance）
    性能要接近线性加速，这需要设计很好的软硬件的体系结构，消除系统可能存在的瓶颈。将负载较均衡地调度到各台服务器上。

  • 高可用性（Availability）
    需要设计和实现很好的系统资源和故障的监测和处理系统。当发现一个模块失败时，要这模块上提供的服务迁移到其他模块上。在理想状况下，这种迁移是即时的、自动的。

  • 可管理性（Manageability）
    要使集群系统变得易管理，就像管理一个单一映像系统一样。在理想状况下，软硬件模块的插入能做到即插即用（Plug & Play）。

  • 可编程性（Programmability）
    在集群系统上，容易开发应用程序。

Linux Virtual Server 项目

针对高可伸缩、高可用网络服务的需求，我们给出了基于 IP 层和基于内容请求分发的负载平衡调度解决方法，并在 Linux 内核中实现了这些方法，将一组服务器构成一个实现可伸缩的、高可用网络服务的虚拟服务器。

虚拟服务器的体系结构如图 2 所示，一组服务器通过高速的局域网或者地理分布的广域网相互连接，在它们的前端有一个负载调度器（ Load Balancer ）。 负载调度器能无缝地将网络请求调度到真实服务器上，从而使得服务器集群的结构对客户是透明的，客户访问集群系统提供的网络服务就像访问一台高性能、高可用 的服务器一样。客户程序不受服务器集群的影响不需作任何修改。系统的伸缩性通过在服务机群中透明地加入和删除一个节点来达到，通过检测节点或服务进程故障 和正确地重置系统达到高可用性。由于我们的负载调度技术是在 Linux 内核中实现的，我们称之为 Linux 虚拟服务器（ Linux Virtual Server ）。


图 2 ：虚拟服务器的结构

在 1998 年 5 月，我成立了 Linux Virtual Server 的自由软件项目，进行 Linux 服务器集群的开发工作。同时， Linux Virtual Server 项目是国内最早出现的自由软件项目之一。

Linux Virtual Server 项目的目标：使用集群技术和 Linux 操作系统实现一个高性能、高可用的服务器，它具有很好的可伸缩性（ Scalability ）、可靠性（ Reliability ）和可管理性（ Manageability ）。

目前， LVS 项目已提供了一个实现可伸缩网络服务的 Linux Virtual Server 框架，如图 3 所示。在 LVS 框架中，提供了含有三种 IP 负载均衡技术的 IP 虚拟服务器软件 IPVS 、基于内容请求分发的内核 Layer-7 交换机 KTCPVS 和集群管理软件。可以利用 LVS 框架实现高可伸缩的、高可用的 Web 、 Cache 、 Mail 和 Media 等网络服务；在此基础上，可以开发支持庞大用户数的、高可伸缩的、高可用的电子商务应用。


图 3 ： Linux 虚拟服务器框架

IP 虚拟服务器软件 IPVS

在调度器的实现技术中， IP 负载均衡技术是效率最高的。在已有的 IP 负载均衡技术中有通过网络地址转换（ Network Address Translation ）将一组服务器构成一个高性能的、高可用的虚拟服务器，我们称之为 VS/NAT 技术（ Virtual Server via Network Address Translation ），大多数商品化的 IP 负载均衡调度器产品都是使用此方法，如 Cisco 的 LocalDirector 、 F5 的 Big/IP 和 Alteon 的 ACEDirector 。在分析 VS/NAT 的缺点和网络服务的非对称性的基础上，我们提出通过 IP 隧道实现虚拟服务器的方法 VS/TUN （ Virtual Server via IP Tunneling ），和通过直接路由实现虚拟服务器的方法 VS/DR （ Virtual Server via Direct Routing ），它们可以极大地提高系统的伸缩性。所以， IPVS 软件实现了这三种 IP 负载均衡技术，它们的大致原理如下（我们将在其他章节对其工作原理进行详细描述），

  1. Virtual Server via Network Address Translation（VS/NAT）
    通过网络地址转换，调度器重写请求报文的目标地址，根据预设的调度算法，将请求分派给后端的真实服务器；真实服务器的响应报文通过调度器时，报文的源地址被重写，再返回给客户，完成整个负载调度过程。

  2. Virtual Server via IP Tunneling（VS/TUN）
    采用NAT技术时，由于请求和响应报文都必须经过调度器地址重写，当客户请求越来越多时，调度器的处理能力将成为瓶颈。为了解决这个问题，调度器把请求报文通过IP隧道转发至真实服务器，而真实服务器将响应直接返回给客户，所以调度器只处理请求报文。由于一般网络服务应答比请求报文大许多，采用VS/TUN技术后，集群系统的最大吞吐量可以提高10倍。

  3. Virtual Server via Direct Routing（VS/DR）
    VS/DR    通过改写请求报文的MAC地址，将请求发送到真实服务器，而真实服务器将响应直接返回给客户。同VS/TUN技术一样，VS/DR技术可极大地提高集群系统的伸缩性。这种方法没有IP隧道的开销，对集群中的真实服务器也没有必须支持IP隧道协议的要求，但是要求调度器与真实服务器都有一块网卡连在同一物理网段上。

针对不同的网络服务需求和服务器配置， IPVS 调度器实现了如下八种负载调度算法：

  1. 轮叫（Round Robin）
    调度器通过"轮叫"调度算法将外部请求按顺序轮流分配到集群中的真实服务器上，它均等地对待每一台服务器，而不管服务器上实际的连接数和系统负载。

  2. 加权轮叫（Weighted Round Robin）
    调度器通过"加权轮叫"调度算法根据真实服务器的不同处理能力来调度访问请求。这样可以保证处理能力强的服务器处理更多的访问流量。调度器可以自动问询真实服务器的负载情况，并动态地调整其权值。

  3. 最少链接（Least Connections）
    调度器通过"最少连接"调度算法动态地将网络请求调度到已建立的链接数最少的服务器上。如果集群系统的真实服务器具有相近的系统性能，采用"最小连接"调度算法可以较好地均衡负载。

  4. 加权最少链接（Weighted Least Connections）
    在集群系统中的服务器性能差异较大的情况下，调度器采用"加权最少链接"调度算法优化负载均衡性能，具有较高权值的服务器将承受较大比例的活动连接负载。调度器可以自动问询真实服务器的负载情况，并动态地调整其权值。

  5. 基于局部性的最少链接（Locality-Based Least Connections）
    "    基于局部性的最少链接"调度算法是针对目标IP地址的负载均衡，目前主要用于Cache集群系统。该算法根据请求的目标IP地址找出该目标IP地址最近使用的服务器，若该服务器是可用的且没有超载，将请求发送到该服务器；若服务器不存在，或者该服务器超载且有服务器处于一半的工作负载，则用"最少链接"的原则选出一个可用的服务器，将请求发送到该服务器。

  6. 带复制的基于局部性最少链接（Locality-Based Least Connections with Replication）
    "    带复制的基于局部性最少链接"调度算法也是针对目标IP地址的负载均衡，目前主要用于Cache集群系统。它与LBLC算法的不同之处是它要维护从一个目标IP地址到一组服务器的映射，而LBLC算法维护从一个目标IP地址到一台服务器的映射。该算法根据请求的目标IP地址找出该目标IP地址对应的服务器组，按"最小连接"原则从服务器组中选出一台服务器，若服务器没有超载，将请求发送到该服务器，若服务器超载；则按"最小连接"原则从这个集群中选出一台服务器，将该服务器加入到服务器组中，将请求发送到该服务器。同时，当该服务器组有一段时间没有被修改，将最忙的服务器从服务器组中删除，以降低复制的程度。

  7. 目标地址散列（Destination Hashing）
    "    目标地址散列"调度算法根据请求的目标IP地址，作为散列键（Hash Key）从静态分配的散列表找出对应的服务器，若该服务器是可用的且未超载，将请求发送到该服务器，否则返回空。

  8. 源地址散列（Source Hashing）
    "    源地址散列"调度算法根据请求的源IP地址，作为散列键（Hash Key）从静态分配的散列表找出对应的服务器，若该服务器是可用的且未超载，将请求发送到该服务器，否则返回空。

2.了解LVS中必须的rpm包

2.1        LVS中的rpm包

ipvsadm-1.24-6.1.i386.rpm必需的安装包
vcompiranha-1.0.0-1.i386.rpm

检查 ipvs rpm 包是否都安装成功

rpm –qa |grep ipvs

rpm –qa |grep vcompiranha