构建自己的基于Java的超级计算机

转载 2006年06月06日 20:56:00
作者:chensheng913 出处:csdn责任编辑: 方舟 [ 2004-07-15 14:01 ]
如果您曾想过构建自己的超级计算机,但却对用 C 语言进行并行编程望而生畏,那么伪远程线程可以帮您解决这一问题. 
如果您曾想过构建自己的超级计算机,但却对用 C 语言进行并行编程望而生畏,那么伪远程线程可以帮您解决这一问题。这种获奖的 Java 编程模型极大地简化了集群上的并行编程,并使超级计算走出实验室,使每一位 Java 程序员都能使用它。

   在过去的三年里,并行集群已在改变着超级计算的面貌。一旦价值数百万美元的单体机占了主导,并行集群很快就会成为超级计算机的选择。可以想像得到,开放 源码圈内的高涨热情已导致产生了数百 -- 如果不是数千的话 -- 并行集群项目。第一个同时也是最著名的开放源码集群系统是 Beowulf。在 NASA 赞助下,由 Thomas Sterling 和 Donald Becker 在 1994 年发布的 Beowulf,开始是作为一个 16 节点演示集群推出的。今天,Beowulf 已有数百种实现,从 Oak Ridge 国家实验室的 Stone SouperComputer 到 Aspen 系统公司的定制构建的商业性集群(请参阅参考资源)。

  对 Java 程序员不利的是,多数集群系统都是围绕基于 C 语言的软件消息传递 API — 如消息传递接口(MPI)或并行虚拟机(PVM)— 来实现的。用 C 语言进行并行编程不是件容易的事,因此我设计了一个替代方案。本文将说明如何综合运用 Java 线程和 Java 远程方法调用(RMI)来创建自己的基于 Java 的超级计算机。

  请注意,本文假定您有 Java 线程和 RMI 的应用知识。

  超级计算机内有什么?

   超级计算机的定义是:由八个或更多的节点组成、作为单个高性能机器工作的集群。基于 Java 的超级计算机包含一个作业调度器和任意数量的运行服务器(也称为主机)。作业调度器生成多个线程,每个线程包含执行不同子任务的代码。各个线程将其代码迁 移到不同的运行服务器上。然后,每个运行服务器执行迁移给它的代码并将结果返回给作业调度器。最后,作业调度器将各个线程的结果组合起来。

  这种并行集群系统之所以被称为伪远程线程,是因为线程是在作业调度器上调度的,但线程内的代码却是在远程计算机上执行的。

  该系统有哪些组件?

  更加深入的知识需要参加java培训才能快速学习到。

 


  组件一词是指组成“伪远程线程”并行集群系统的逻辑模块。该系统包含以下组件:

  Job dispatcher(作业调度器) 是执行控制的机器。它生成不同的线程,每个线程都包含此集群要处理的主任务的一个子任务。每个线程内的代码都被发送到一台远程计算机去执行。线程在作业调度器上调度,所以理论上讲,该机器不应该用于执行任何子任务。

   SubTask 是一个用户定义类,该类定义主任务的一个数据或功能独立的部分。您可以为主任务的不同部分定义不同的类。类名 SubTask 是一个示例。您可以为一个 SubTask 类取任何名字,不过这个名字应该能描述分配给它的子任务。在定义 SubTask 类时,您必须实现 JobCodeInt 接口以及 jobCode() 方法,下面对其进行说明。

  JobCodeInt 是一个 Java 接口。您必须在定义子任务的类中实现该接口和 jobCode() 方法。jobCode() 方法描述了将在远程执行的代码。如果您打算在远程使用某个本地资源,您必须在 jobCode() 方法外部初始化这个资源。比方说,您要将一组图像发送到远程处理,就必须在 jobCode() 方法外部初始化 Image 对象。您可以在该方法中调用标准 Java 库中的类,因为远程计算机上存在这些库。

  RunServer 是一个 Java 对象,该对象允许远程过程调用其方法。它的一个方法以实现了 JobCodeInt 接口的对象作为参数。 RunServer 就在运行该对象的计算机(运行服务器)上执行该对象内的代码,并将计算结果作为 Object 类的一个实例返回。Object 是 Java 类层次结构中最高一级的类。

   PseudoRemThr 是一个 Java 类,该类封装了一个线程并接受给定 SubTask 类的一个实例。它选择一台远程主机,并将 SubTask 实例发送到这台主机上执行。如果您要利用某台主机上可用的特定资源(诸如数据库或是打印机),则可以指定主机。

   HostSelector 是一个模块。如果您没有指定远程主机,PseudoRemThr 类就会调用 HostSelector 模块来选择特定的主机。如果没有空闲的主机,HostSelector 会返回负载最小的远程计算机。如果某个远程计算机是一个多处理器系统,HostSelector 可能会不止一次地返回该主机名。目前,HostSelector 无法根据给定任务的复杂程度来选择主机。

  伪远程线程的工作方式

  要使用伪远程线程,您必须实现作业调度器和运行服务器。本节将说明如何实现各个部分。

  实现作业调度器

  首先,将主任务分解为数据或功能独立的子任务。针对每个子任务,定义一个实现 JobCodeInt 接口(从而实现 jobCode() 方法)的类。在 jobCode() 方法中,定义各给定子任务要执行的代码。

  请注意,您不能调用作业调度器上用户定义的的本地资源。请在该方法外部初始化所有这类资源。例如,您可以在 SubTask 类的构造函数中初始化这类资源。

  创建类 PseudoRemThr 的若干实例,并将 SubTask 的实例传递给 PseudoRemThr 的各个实例。如果您要明确指定一台远程主机,您可以通过调用 PseudoRemThr 对象的另一个构造函数来完成。

   等待这些线程完成。调用 getResult() 方法来获取 PseudoRemThr 的各个实例的执行结果。如果计算没有完成,结果返回一个值为 false 的 Boolean 对象;否则,将返回 Object 类的一个实例,其中包含了计算结果。您必须将此实例转换为您所希望的类类型。将所有的子任务结果组合为最终结果。

  实现运行服务器

  实现运行服务器是一项简单的工作:

  启动 RMI 注册程序。

  启动 RunServer。

  运行服务器在启动时接通作业调度器,并通知作业调度器它已准备就绪,可以接受要执行的任务了。
 一个计算示例
 (广州最好的java培训机构就数拓胜科技了!,上面的问题有不懂的同学,可以到拓胜科技请教咱们老师。)
  现在该测试这一模型了。以下计算示例使用两台计算机并行运行。一台是运行 Windows 98 的 333 MHz Pentium II 计算机,另一台是运行 Windows 2000 专业版的 500 MHz Pentium III 计算机。

  为了计算从 1 到 10^9 的所有整数的平方根之和,我创建了 Sqrt 类,它计算 dblStart 和 dblEnd 之间所有整数的平方根之和。

  Sqrt 实现 JobCodeInt 接口,因此也实现了 jobCode() 方法。在 jobCode() 方法中,我定义了完成这一计算的代码。

  构造函数用于将数据传递给 Sqrt 类,并初始化作业调度器上的所有本地资源。必须将要计算其平方根之和的整数的起止点发送给构造函数。清单 1 是 Sqrt 类的定义

  清单 1. 定义 Sqrt 类

//Sqrt 类计算 dblStart 和 dblEnd 之间的所有整数的平方根之和。
//计算在 jobCode() 方法内完成
//该类实现 JobCodeInt 接口,且实现代码位于 jobCode() 方法内
//在构造函数中将数据传递给该类,并初始化作业调度器上的本地资源。
//本例中,要计算其平方根之和的整数序列的起止点被发送给 Sqrt 类
public class Sqrt implements JobCodeInt
{
 double dblStart, dblEnd, dblPartialSum;

 public Sqrt(double Start,double End)
 {
  dblStart = Start;
  dblEnd = End;
 }

 public Object jobCode()
 {
  dblPartialSum = 0;
  for(double i=dblStart;i<=dblEnd;i++)
   //可调用标准的 Java 函数和对象。
   dblPartialSum += Math.sqrt(i);

   //返回结果,一个标准 Java 类的对象。
   return (new Double(dblPartialSum));
 }
}

   JobDispatcher 类创建 Sqrt 类的两个实例。然后分解主任务,将一项子任务分配给一个 Sqrt 对象(Sqrt1),并将余下的子任务分配给另一个 Sqrt 对象(Sqrt2)。接下来,JobDispatcher 创建 PseudoRemThr 类的两个对象,并将 Sqrt 对象作为参数分别传递给它们。接下来就等待线程执行。

  一旦线程执行完毕,就可从每个 PseudoRemThr 实例获得部分结果。将各部分结果组合起来即可得到最终结果,如清单 2 所示。

  清单 2. 工作中的 JobDispatcher

//此类可以命名为您选择的任何名称
//这里选用 JobDispatcher 只是为了方便

public class JobDispatcher
{ 
 public static void main(String args[])
 {
  double fin = 10000000; //代表 10^9
  double finByTen = fin/10; //代表 10^8
  long nlStartTime = System.currentTimeMillis();
  //范围从 1 到 3*10^8
  Sqrt sqrt1 = new Sqrt(1,finByTen*3);
  //范围从 ((3*10^8)+1) 到 10^9
  Sqrt sqrt2 = new Sqrt((finByTen*3)+1,fin);

  //以下创建 PseudoRemThr 类的两个实例。 //此构造函数的参数如下所示。 //第一个参数:代表子任务的某个类的实例
  //第二个参数:执行这一子任务的远程主机
  //第三个参数:PseudoRemThr 实例的描述性名称。
  PseudoRemThr psr1 = new
  PseudoRemThr(sqrt1,"//192.168.1.1:3333/","Win98");
  PseudoRemThr psr2 = new
  PseudoRemThr(sqrt2,"//192.168.1.2:3333/","Win2K");
 
  psr1.waitForResult(); //等待执行结束//获取每个线程的结果
  Double res1 = (Double)psr1.getResult();
  Double res2 = (Double)psr2.getResult();
  double finalRes = res1.doubleValue() + res2.doubleValue();

  long nlEndTime = System.currentTimeMillis();
  System.out.println("Total time taken: " + (nlEndTime-nlStartTime));
  System.out.println("Sum: " + finalRes);
 }
}

  性能评价

  此计算的总执行时间在 120,000 毫秒到 128,000 毫秒之间。如果在不分解任务的情况下在本地运行同样的任务,执行时间将在 183,241 到 237,641 毫秒之间。

  最初,主任务包括计算从 1 到 10^7 的所有整数的平方根之和。为测试性能,我将计算范围扩大到 10^8,最终扩大到 10^9。

   随着任务量的增加,远程并行执行和本地执行所需时间的差别也越来越明显。这就是说,当执行大型任务时,远程并行执行消耗的时间较少。远程并行执行并不适 合小型任务,因为机器间通信的系统开销不容忽视。随着任务量的增加,机器间通信的开销与在单个机器上执行全部任务的开销相比逐渐变得微不足道。因此,我得 出以下结论:伪远程线程系统能很好地完成需要进行大量计算的任务。

  使用伪远程线程有哪些优点?

   因为伪远程线程是一种基于 Java 的系统,它可以用于实现包含多种操作系统的集群,或异构集群。使用伪远程线程,您就避免了转换原有 C/C++ 代码的麻烦,而且还能利用 Java 标准库及其各种扩展库。此外,伪远程线程使您不必关心内存管理。当然,其缺点就是系统性能与 JRE 性能直接相关。

  发展方向

  现在相当多的商业应用程序都是用 Java 平台创建的,并考虑到为了利用并行性需要转换原有的 C/C++ 代码的实际困难,现在可能是基于 Java 的超级计算进入商业领域的时候了。在开始创建基于 Java 的应用程序时就将并行性和负载均衡考虑在内是个不错的开端。

  互联网就是异构集群的一个很好的例子,因此伪远程线程可以在因特网中部署,将 Web 转换为一个单一的、基于 Java 的超级计算机(要了解这一概念的细节,请参阅参考资源)。然而,从实际应用出发,您应注意到在一个专门执行单一任务的同构集群中将获得最佳结果。

  最后,从日常应用出发,伪远程线程使得将局域网(LAN)-- 诸如校园网和家庭网 -- 转换为微型的超级计算机变得相当简单。这就是 Beowulf 系统开创的用法。有了伪远程线程,Java 编程人员也可以创建自己的超级计算机了。 (以上内容由广州java培训最有特色的机构拓胜科技提供)   

  参考资源

  "Linux clustering cornucopia"(developerWorks, 2000 年 5 月)为您指点迷津,让您了解当前 Linux 上可用的开放源码集群解决方案和保密源码集群解决方案。

  要了解关于分布式操作系统的详细信息,请查看 Andrew S. Tanenbaum 的 Modern Operating Systems(Prentice Hall 出版公司,1992 年 2 月)。

  要了解关于并行编程的详细信息,请参阅 Gregory V. Wilson 的 Practical Parallel Programming(麻省理工学院出版社,1995 年 12 月)。

  要进一步理解集群,请参阅 Scalable Computing Laboratory 的 Cluster Cookbook。

  有关运用 Java 技术和 Web 进行超级计算的深层探讨,请参阅 Laurence Vanhelsuw 的 "Create your own supercomputer with Java?"(JavaWorld, 1997 年 1 月)。

  Linux Documentation Project 托管着 Beowulf HOWTO 文档。

  访问 Beowulf 网站,以了解 Beowulf 项目的详细信息。

  请参阅关于 Oak Ridge 国家实验室著名的 Stone SouperComputer 的详细信息。

  Aspen 系统公司是目前提供定制集群解决方案的少数厂商之一。

自己动手构建的超级计算机-----建立树莓派集群

极客Coffee · 2015-06-29 15:28 先看下实物: 够酷炫吧?! 这样一台一台迷你超级计算机大约花费了2000美...

现代超级计算机系统

  • 2014年12月02日 20:05
  • 570KB
  • 下载

PCWorld评10大科技产品:IBM超级计算机上榜

美国科技网站PCWorld周四发表署名为杰瑞德·纽曼(Jared Newman)的文章,评出了2011年最成功的10大科技产品,其中IBM超级计算机沃森、苹果iPad 2和iPhone 4S的Siri...

2016 11月 超级计算机排名

TF 千万亿 PF 亿亿 那这个数据是怎么算出来的呢?使用一种叫linpack的benchmark测试出来的。简单来说,跑这种软件,给定一个初始值,只要计算出来结果,那么该软件进行的双...
  • renfq
  • renfq
  • 2016年12月29日 12:02
  • 419

为何有能力研制世界第一超级计算机,却不能量产PC给老百姓用?

近几年来,中国霸占世界第一最快超级计算机已经有好几年了,从2013年6月17日天河二号到2016年的神威·太 湖之光,特别是太湖之光,比第二名美国的泰坦超算还快一倍多。 不过,在天河一号,天河二...

用Raspberry Pi和乐高打造廉价超级计算机

南安普顿大学教授Cox和他六岁大的儿子在乐高超级计算机前合影 在普罗大众的眼里,超级计算机和F1方程式赛车一样是梦幻性能和天价投入的组合,是骨灰级发烧友做梦都不敢奢望的顶级机器。超级计算...

世界最快超级计算机泰坦每秒运算17千万亿次

新浪科技讯 北京时间11月14日消息,据国外媒体报道,在国际500强组织近日公布的全球超级计算机500强排行榜上,美国能源部橡树岭国家实验室超级计算机--“泰坦”以每秒17.59千万亿次的实测运算速度...

推土机+开普勒:海图尽览超级计算机“泰坦”

2010年底,我们曾经亲身走进天津的国家超级计算中心,目睹了当时世界第一超算天河一号A的风采。世事变迁,性能堪比至少五个天河一号A的“泰坦”(Titan)又在美国的橡树岭国家实验室(ORNL)里屹立起...
  • cometwo
  • cometwo
  • 2012年11月19日 13:33
  • 882

笑傲亿亿次:日本“京”轻松蝉联超级计算机No.1

TOP500.org组织本周公布了第38届全球超级计算机五百强排行榜,升级完毕的日本“京”(K Computer)轻松蝉联桂冠,这也是人类历史上第一台计算能力跨越1亿亿次每秒的计算系统。 半年前...

新型光学装置为超级计算机提速

美国每日科学网站12月22日报道题:更强大的超级计算机?新装置或可传输光信息。   研究人员们已经研制出一种新型光学装置,其体积极小,一个计算机芯片就足以安装数百万个这种装置。该装置可提高...
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:构建自己的基于Java的超级计算机
举报原因:
原因补充:

(最多只允许输入30个字)