开发计算机并行性的方法【理论】

并行性主要是指同时性或并发性,并行处理是指对一种相对于串行处理的处理方式,它着重开发计算过程中存在的并发事件。

并行处理(Parallel Processing)是计算机系统中能同时执行两个或更多个处理的一种计算方法。并行处理可同时工作于同一程序的不同方面。并行处理的主要目的是节省大型和复杂问题的解决时间。为使用并行处理,首先需要对程序进行并行化处理,也就是说将工作各部分分配到不同处理进程(线程)中。并行处理由于存在相互关联的问题,因此不能自动实现。另外,并行也不能保证加速。从理论上讲,在 n 个并行处理的执行速度可能会是在单一处理机上执行的速度的 n 倍。

并行性通常划分为作业级、任务级、例行程序或子程序级、循环和迭代级以及语句和指令级。作业级的层次高,并行处理粒度粗。粗粒度开并行性开发主要采用MIMD方式,而细粒度并行性开发则主要采用SIMD方式。


开发计算机并行性的方法主要有:资源重复、时间重叠和资源共享三种方法。

1、资源重复

资源重复是在并行性概念中引入空间因素。这种措施提高计算机处理速度最直接,但由于受硬件价格昂贵的限制而不能广泛使用。目前,随着硬件价格的降低,已在多种计算机系统中使用,如多处理机系统、陈列式处理机等。

2、时间重叠

时间重叠是在并行性概念中引入时间因素,即多个处理过程在时间上相互错开,轮流重叠地使用同一套硬件设备的各个部件,以加快硬件周转而赢得速度。这各并行措施表现在指令解释的重叠及流水线部件与流水线处理机。

3、资源共享

资源共享也是在并行性概念中引入时间因素,它是通过软件的方法实现的。即多个用户按一定的时间顺序轮流使用同一套硬件设备;既可以是按一定的时间顺序共享CPU,也可以是CPU与外围设备在工作时间上的重叠。这种并行措施表现在多道程序和分时系统中,而分布式处理系统和计算机网络则是更高层次的资源共享。


并行处理的三种形式

1、时间并行

时间并行指时间重叠,在并行性概念中引入时间因素,让多个处理过程在时间上相互错开,轮流重叠地使用同一套硬件设备的各个部分,以加快硬件周转而赢得速度。
时间并行性概念的实现方式就是采用流水处理部件。这是一种非常经济而实用的并行技术,能保证计算机系统具有较高的性能价格比。目前的高性能微型机几乎无一例外地使用了流水技术。

2、空间并行

空间并行指资源重复,在并行性概念中引入空间因素,以“数量取胜”为原则来大幅度提高计算机的处理速度。大规模和超大规模集成电路的迅速发展为空间并行技术带来了巨大生机,因而成为实现并行处理的一个主要途径。空间并行技术主要体现在多处理器系统和多计算机系统。但是在单处理器系统中也得到了广泛应用。

3、时间并行+空间并行

指时间重叠和资源重复的综合应用,既采用时间并行性又采用空间并行性。显然,第三种并行技术带来的高速效益是最好的。


在并行处理技术中所使用的算法主要遵循三种策略:

1.分而治之法

也就是把多个任务分解到多个处理器或多个计算机中,然后再按照一定的拓扑结构来进行求解。

2.重新排序法

分别采用静态或动态的指令词度方式。

3.显式/隐式并行性结合

显式指的是并行语言通过编译形成并行程序,隐式指的是串行语言通过编译形成并行程序,显式/隐式并行性结合的关键就在于并行编译,而并行编译涉及到语句、程序段、进程以及各级程序的并行性。

  • 3
    点赞
  • 12
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: "并行计算导论"是由Ananth Grama等人合著的一本计算机科学教材,旨在介绍并行计算的基本概念和技术。 这本书首先概述了串行计算的局限性,引出了为什么我们需要并行计算。随后,书中详细介绍了并行计算的基本概念,如任务并行和数据并行,以及相应的并行计算模型,如共享内存模型和分布式内存模型。这些内容不仅帮助读者理解并行计算的核心原理,还为读者提供了分析和设计并行计算算法的方法。 "并行计算导论"还对并行计算的基础工具进行了介绍,包括并行编程语言如OpenMP和MPI,以及并行计算的调度和负载平衡技术。此外,书中还介绍了并行计算应用领域的具体案例,如图像处理、科学计算和数据挖掘等,帮助读者了解并行计算在实际问题中的应用和优势。 通过阅读这本书,读者不仅可以深入了解并行计算的基本理论,还能了解如何实际应用并行计算解决实际问题。同时,书中提供了大量的练习题和案例研究,帮助读者巩固所学知识,提高并行计算的应用能力。 总之,“并行计算导论”是一本全面介绍并行计算的教材,适用于希望了解并行计算基本概念和应用技术的读者。通过阅读这本教材,读者可以掌握并行计算的核心原理和应用方法,为进一步深入研究并行计算打下坚实的基础。 ### 回答2: 并行计算导论是由Ananth Grama等人编写的一本计算机科学教材,旨在介绍并行计算的基本概念、技术和应用。该书的内容涵盖了多处理器、并行算法、并行计算体系结构、并行程序设计以及并行性能分析等方面。 该教材首先介绍了并行计算的基本概念和核心原理。它解释了并行计算与串行计算的区别,讲述了并行计算的工作方式和优势。随后,教材就多处理器体系结构进行了详细说明,包括共享内存、分布式内存和虚拟存储器等不同类型的体系结构。它介绍了这些体系结构的原理、特点以及适用的应用场景。 教材还讲解了并行算法的设计和分析方法。它介绍了一些经典的并行算法,如并行排序、并行搜索和并行图算法等。同时,教材也讨论了算法设计中需要考虑的问题,如负载均衡、同步和通信开销等。这些内容有助于读者理解并行算法的设计原则和实现技巧。 此外,教材还详细介绍了并行程序设计的方法和工具。它讲解了并行程序设计语言(如MPI和OpenMP)、并行程序调试和测试、以及并行程序优化等方面的知识。这些内容能够帮助读者掌握并行程序设计的技巧,提高程序的性能和效率。 最后,教材还介绍了并行性能分析的方法和指标。它说明了性能评测的重要性,讲解了各种性能指标的含义和计算方法。通过这些内容,读者可以了解并行程序的性能瓶颈,并采取相应的优化措施。 总之,"并行计算导论"是一本系统介绍并行计算原理和实践的教材。它深入浅出地解释了并行计算的基本概念和关键技术,并提供了丰富的案例和实例,帮助读者更好地理解和应用并行计算。 ### 回答3: 《并行计算导论》(Ananth Grama)是一本介绍并行计算的导论教材。该书由Ananth Grama、Anshul Gupta、George Karypis和Vipin Kumar合著,共分为10章,涵盖了并行计算的基本概念、并行算法设计和实施、并行计算架构和并行程序设计等内容。 该书首先介绍了并行计算的基本概念和并行计算体系结构。其次,书中详细解释了并行算法的设计和分析方法,包括分治法、贪心法和动态规划等。同时,还介绍了并行计算的重要性能度量指标,如执行时间、加速比和效率等。 《并行计算导论》还提供了大量关于并行计算架构和系统的详细解释。例如,讨论了多处理器体系结构、共享内存体系结构和分布式内存体系结构的特点和设计原则。此外,书中还介绍了常见的并行程序设计模型和编程语言,如MPI、OpenMP和CUDA等。 该书的最后一章还介绍了一些现代并行计算领域的研究方向和挑战,如大规模并行计算、云计算和GPU计算等。此外,书中还附有大量的案例研究和习题,方便读者深入学习和实践。 总之,《并行计算导论》(Ananth Grama)是一本系统全面介绍并行计算的导论教材,适合作为计算机科学、并行计算和高性能计算等相关专业的教材和参考书。它的内容丰富、结构清晰,能够帮助读者深入理解并行计算的基本概念和技术,并掌握相关的算法设计和程序开发技巧。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值