集群技术

集群技术

集群（cluster）技术是一种较新的技术，通过集群技术，可以在付出较低成本的情况下获得在性能、可靠性、灵活性方面的相对较高的收益，其任务调度则是 集群系统中的核心技术。本文就 集群系统的定义、发展趋势、任务调度等问题进行了简要论述。

目录

1定义

2目的

3分类

4系统结构

5调度方法

6区别

7发展趋势

1定义编辑

集群（cluster）技术是一种较新的技术,通过集群技术，可以在付出较低成本的情况下获得在性能、可靠性、灵活性方面的相对较高的收益，其任务调度则是 集群系统中的核心技术。本文就 集群系统的定义、发展趋势、任务调度等问题进行了简要论述。

集群是一组相互独立的、通过高速 网络互联的计算机，它们构成了一个组，并以单一系统的模式加以管理。一个客户与集群相互作用时，集群像是一个独立的 服务器。集群配置是用于提高可用性和可缩放性。

2目的编辑

1 提高性能

一些计算密集型应用，如：天气预报、核试验模拟等，需要计算机要有很强的运算处理能力，现有的技术，即使普通的大型机其计算也很难胜任。这时，一般都使用 计算机集群技术，集中几十台甚至上百台计算机的运算能力来满足要求。提高处理性能一直是集群技术研究的一个重要目标之一。

2 降低成本

通常一套较好的集群配置，其软硬件开销要超过100000美元。但与价值上百万美元的专用 超级计算机相比已属相当便宜。在达到同样性能的条件下，采用 计算机集群比采用同等运算能力的 大型计算机具有更高的性价比。

3 提高可扩展性

用户若想扩展系统能力，不得不购买更高性能的 服务器，才能获得额外所需的CPU 和 存储器。如果采用集群技术，则只需要将新的 服务器加入集群中即可，对于客户来看，服务无论从连续性还是性能上都几乎没有变化，好像系统在不知不觉中完成了升级。

4 增强可靠性

集群技术使系统在 故障发生时仍可以继续工作，将系统停运时间减到最小。 集群系统在提高 系统的可靠性的同时，也大大减小了故障损失。

3分类编辑

1 科学集群

科学集群是 并行计算的基础。通常，科学集群涉及为集群开发的并行 应用程序，以解决复杂的科学问题。科学集群对外就好像一个 超级计算机，这种超级计算机内部由十至上万个独立处理器组成，并且在公共消息传递层上进行通信以运行并行 应用程序。

2 负载均衡集群

负载均衡集群为企业需求提供了更实用的系统。负载均衡集群使负载可以在 计算机集群中尽可能平均地分摊处理。负载通常包括 应用程序处理负载和 网络流量负载。这样的系统非常适合向使用同一组 应用程序的大量用户提供服务。每个 节点都可以承担一定的处理负载，并且可以实现处理负载在节点之间的动态分配，以实现 负载均衡。对于 网络流量负载,当网络服务程序接受了高入网流量，以致无法迅速处理，这时，网络流量就会发送给在其它节点上运行的网络服务程序。同时，还可以根据每个节点上不同的可用资源或网络的特殊环境来进行优化。与科学计算集群一样， 负载均衡集群也在多节点之间分发计算处理负载。它们之间的最大区别在于缺少跨节点运行的单并行程序。大多数情况下， 负载均衡集群中的每个节点都是运行单独 软件的独立系统。

但是，不管是在 节点之间进行直接通信，还是通过中央 负载均衡服务器来控制每个节点的负载,在节点之间都有一种公共关系。通常，使用特定的算法来分发该负载。

3 高可用性集群

当集群中的一个系统发生故障时，集群 软件迅速做出反应，将该系统的任务分配到集群中其它正在工作的系统上执行。考虑到计算机硬件和 软件的易错性，高可用性集群的主要目的是为了使集群的整体服务尽可能可用。如果高可用性集群中的主节点发生了 故障，那么这段时间内将由次节点代替它。次节点通常是主节点的 镜像。当它代替主节点时，它可以完全接管其身份，因此使系统环境对于用户是一致的。

高可用性集群使 服务器系统的运行速度和响应速度尽可能快。它们经常利用在多台机器上运行的 冗余节点和服务，用来相互跟踪。如果某个节点失败，它的替补者将在几秒钟或更短时间内接管它的职责。因此，对于用户而言,集群永远不会停机。

在实际的使用中，集群的这三种类型相互交融，如高可用性集群也可以在其节点之间均衡用户负载。同样，也可以从要编写 应用程序的集群中找到一个并行集群，它可以在 节点之间执行 负载均衡。从这个意义上讲，这种集群类别的划分是一个相对的概念，不是绝对的。

4系统结构编辑

根据典型的集群 体系结构，集群中涉及到的关键技术可以归属于四个层次：

（1） 网络层： 网络互联结构、 通信协议、信号技术等。

（2）节点机及 操作系统层高性能客户机、分层或基于 微内核的操作系统等。

（3） 集群系统管理层：资源管理、资源调度、 负载平衡、并行IPO、安全等。

（4） 应用层：并行程序开发环境、串行应用、并行应用等。

集群技术是以上四个层次的有机结合，所有的相关技术虽然解决的问题不同，但都有其不可或缺的重要性。

集群系统管理层是集群系统所特有的功能与技术的体现。在未来按需（On Demand）计算的时代，每个集群都应成为业务 网格中的一个节点，所以自治性（自我保护、自我配置、自我优化、自我治疗）也将成为集群的一个重要特征。自治性的实现，各种应用的开发与运行，大部分直接依赖于集群的系统管理层。此外，系统管理层的完善程度，决定着 集群系统的易用性、稳定性、可扩展性等诸多关键参数。正是集群管理系统将多台机器组织起来，使之可以被称为“集群”。

5调度方法编辑

1 进程迁移

进程迁移就是将一个进程从当前位置移动到指定的处理器上。它的基本思想是在进程执行过程中移动它，使得它在另一个计算机上继续存取它的所有资源并继续运行，而且不必知道运行进程或任何与其它相互作用的进程的知识就可以启动进程迁移操作，这意味着迁移是透明的。进程迁移是支持 负载平衡和高 容错性的一种非常有效的手段。对一系列的 负载平衡策略的研究表明：进程迁移是实现负载平衡的基础，进程迁移在很多方面具有适用性。

（1）动态 负载平衡。将进程迁移到负载轻或空闲的节点上，充分利用可用资源，通过减少节点间负载的差异来全面提高性能。

（2） 容错性和高可用性。某节点出现故障时，通过将进程迁移到其它节点继续恢复运行，这将极大的提高 系统的可靠性和可用性。在某些关键性应用中，这一点尤为重要。

（3）并行文件IO。将进程迁移到 文件服务器上进行IO，而不是通过传统的从文件服务器通过网络将数据传输给进程。对于那些需向 文件服务器请求大量数据的进程，则将有效地减少通讯量，极大地提高效率。

（4）充分利用特殊资源。进程可以通过迁移来利用某节点上独特的硬件或 软件能力。

（5）内存导引机制。当一个 节点耗尽它的主存时，内存导引机制将允许进程迁移到其它拥有空闲内存的节点，而不是让该节点频繁地进行 分页或和外存进行交换。这种方式适合于负载较为均衡，但内存使用存在差异或内存物理配置存在差异的系统。

2 进程迁移的实现角度

进程迁移的实现复杂性及对OS 的依赖性阻碍了进程迁移的广泛使用，尤其是对透明的进程迁移的实现。根据应用的级别,进程迁移可以作为OS 的一部分、 用户空间、系统环境的一部分或者成为 应用程序的一部分。

（1）用户级迁移：用户级实现较为简单， 软件开发和维护也较为容易，因此，现有的很多系统都是采用用户级实现，如Condor和Utopia。但由于在用户级无法获得Kernel的所有状态，因此，对于某类进程，无法进行迁移。另外，由于Kernel空间和User空间之间存在着壁垒，打破这个边界获得Kernel提供的服务需要巨大的开销。因此，用户级实现的效率远远低于 内核级实现。

（2）应用级迁移：应用级迁移的实现较为简单，可移植性好，但是需要了解 应用程序语义并可能需对应用程序进行修改或重新编译，透明性较差，这方面的系统有Freedman、Skordos等。

（3） 内核级迁移：基于内核的实现可以充分利用OS提供的功能，全面的获取进程和OS状态，因此实现效率较高，能够为用户提供很好的透明性。但是由于需要对OS进行修改，实现较为复杂。这方面的典型系统有 MOSIX和Sprite系统。

进程迁移的主要工作就在于提取进程状态，然后在目的节点根据进程状态再生该进程。在现实中，一个进程拥有很多状态，并且随着 操作系统的演化，进程状态也越来越多样。一般来说，一个进程的状态可以分为以下几类：①进程 执行状态。表示当前运行进程的处理器状态，和机器高度相关。包括内核在 上下文切换时保存和恢复的信息，如通用和 浮点寄存器值、栈指针、条件码等。②进程控制。 操作系统系统用来控制进程的所有信，一般包括 进程优先级、进程标识， 父进程标识等。一旦系统编排了进程控制信息，进程迁移系统必须冻结该进程的运行。③进程Memory状态和进程 地址空间。包括进程的所有 虚存信息，进程数据和进程的 堆栈信息等，是进程状态的最主要的一部分。④进程的消息状态。包括进程缓冲的消息和连接（Link）的控制信息。进程迁移中通讯连接的保持以及迁移后连接的恢复是进程迁移中一项较有挑战意义的问题。⑤文件状态。进程的文件状态包括 文件描述符和文件缓冲符。保持文件的Cache一致性和进程间文件同步访问也是进程迁移机制需要着重考虑的。

6区别编辑

模拟集群与 数字集群不同的地方，说简单点就是：模拟集群在单信道比数字对讲机用户容量要小，语音没有数字对讲机清楚，只能实现简单的数据功能。

数字集群分TDMA和FDMA两种，TDMA是提供给专业用户使用的，是时分的制式。FDMA是提供给民用的，是频分的制式。

FDMA和模拟对讲机相比，除了可以把信道间隔做得更窄（模拟的是25KHz，数字的是12.5KHz两时隙或6.25KHz四时隙），单信道用户量更大外，对用户来说并没有太大的更新体验。

TDMA制式的对讲机和模拟对讲机相比，除了单信道用户容量更大外，还可以现实同频中转。模拟系统中，要实现中转，必须要有收、发频率一对。而在 TDMA时分数字系统中，可利用数字技术，通过时隙的转换来实现中转。例如：当中转台收到A时隙的数据时，同时转发出去的数据就是在B时隙上实现的。

现在在中国还没有自己的数字对讲机标准。现在 MOTOROLA的数字对讲机是TDMA制式的，ICOM和建伍的数字对讲机是FDMA制式的。 ^[1]

7发展趋势编辑

虽然集群系统的构建目前可以说是模块化的，从硬件角度来看可以分为节点机系统、通讯系统、 存储系统等， 软件角度则主要有 操作系统、集群操作系统（COS）、并行环境、编译环境和用户 应用软件等，目前高性能计算机的通讯、存储等 硬件系统是伴随 摩尔定律快速发展的，跟踪、测试、比较最新硬件设备构成的高性能计算机的可能方案也成了高性能计算机厂商的重要科研活动，而所有这些 关键部件研发、系统方案科研以及厂商的自主部件研发的高度概括就是“整合计算”。整合硬件计算资源的同时，伴随着整合 软件资源，其中集群 操作系统COS是 软件系统中连接节点机操作系统和用户并行应用的重要“黏合剂”，也是高性能计算机厂商的技术杀手锏。

高性能 集群系统目前在国内的应用领域主要集中在气象云图分析和石油勘探的领域。这样的应用对于高性能 集群系统来说进入门槛比较低，所以目前这些领域都采用了国内厂商构建的集群系统。虽然对比要处理大量并发的小问题的用于商业计算的高可用性集群来说，高性能集群实现起来要简单一些。但实际上，高性能集群的构建中仍有许多技术上的难点，尤其是高性能 集群系统往往是针对一个很独特的科学计算的应用，而对这种应用的实现用高性能集群系统来计算，就必须要先建立数学模型，而这样的 建模过程需要大量的对于这种应用模式的理解。总结起来，可管理性、集群的监控、并行程序的实现、并行化的效率以及网络实现是构建高性能集群的几个难点。这其中，并行化程序的实现就是指特定应用领域的特定 应用程序在 集群系统上的实现。虽然有诸多的技术实现上的难点，但 集群系统本身的优势仍然给了厂商们克服难点、攻克高性能集群的力量。首先撇开一些具体的优势不说，从互联网中心 服务器的变化来看，可以清晰地观察到集群结构是中心服务器的发展趋势。20世纪90年代以前，中心 服务器一般都用大型机（Mainframe），大型机上可以完成一切的应用和服务，用户从 终端通过网络完成应用。这种应用模式带来许多的好处：应用集中、比较好部署、系统监控、管理方便等。但大型机的缺点也是非常明显的，主要是设备昂贵，很难实现高可用解决方案；非高可用系统在出现故障时，全部应用都受到影响； 操作系统、设备和部件比较专用，用户本身维护困难；可扩展性不强等。这些缺点中的任何一个都是用户难以接受的。随着PC及其 操作系统的普及和Intel CPU的性能和稳定性的不断提高，人们逐渐用PC服务器构成的 分布式系统（Distributed System）去代替大型机。 分布式系统解决了大型机上面提到的多个缺点,却丢弃了大型机应用的优点， 服务器多且杂，不好监控、管理，不好部署。因此综合大型机和 分布式系统优势的 服务器必将成为趋势， 集群系统就是这样应运而生的服务器。