并行计算与分布式计算的关系与区别1

转载 2012年03月26日 09:50:08

1、概念理解

物理处理器: 

    一个单核CPU,多核CPU的某个内核,都是一个物理处理器;

 

逻辑处理器:

    通过超线程技术可以将一个物理处理器模拟成多个逻辑处理器,
    超线程技术的目的是提高物理处理器的利用效率,开销是模拟的多个逻辑处理器在工作切换时,有不少的数据保存和恢复工作,因此实际处理性能的提升要弱于多核CPU的多个物理处理器;双核CPU的两个物理处理器,通过超线程技术也可以模拟成四个逻辑处理器,但随着多内核CPU的物理处理器数量增多,就不必使用开销较大的超线程技术了。为避免概念混淆,后续描述中若无特别指明,处理器都是指物理处理器,不再讨论超线程技术。

 

并发计算: 

    时分复用一个处理器,在单处理器上,分时、多任务操作系统采用并发计算的调度方法;

 

并行计算: 

    空间复用多个处理器;
    Intel多媒体指令优化集是针对一个处理器,扩展处理额外的数据,属于特殊的并行计算优化;

    多处理器系统,操作系统采用并行计算的调度方法,允许多个线程在多个处理器上同时执行。

 

串行计算: 

    一个处理器依次执行指令,单就一个线程而言,本质上是串行计算的。


处理单元: 

    一个独立的软/硬件系统,可以是一台PC,或者一个虚拟机系统;

 

分布式处理系统:

    某种处理任务被分解到多个处理器上,系统为扁平结构,一般上层有一个控制中心,下层有多个处理单元,通过下层多个处理单元的数量/功能扩展,来提高整个系统的处理性能;
    处理任务有两种分解方法:一种是同类处理任务的分解,属于数量扩展;另一种是按功能不同进行分解,属于功能扩展;两种分解方法一般都混合使用。

 

集中式处理系统:

    某种处理任务被集中到一个处理单元上,系统为星型结构,一般只有一个核心处理单元;即使核心处理单元有双机备份,也属于集中式处理系统。


2、技术范畴

任务:     任务有优先级
进程/线程:操作系统调度的最小单位


软件开发技术:
(1)系统层面 -> 集中式处理系统 - 对象是一个处理单元

               -> 包含一个处理器 -> 并发计算,调度优化
                                 -> 并行计算之指令优化(特例)
               -> 包含多个处理器 -> 并行计算
           
            -> 分布式处理系统 - 对象是多个处理单元

               -> 任务的数量分解,数量空间扩展;
               -> 任务的功能分解,功能空间扩展;

 

(2)算法层面 -> 一个处理器

               -> 并发计算

                  -> 分时调度 -> 新就绪的高优先级任务

                                 -> 可抢占
                                 -> 不可抢占,如Linux进程的核心态
                              -> 新就绪的低优先级任务

                                 -> 预留时间片,保证调度,延迟可预知

                  -> 多任务调度 -> 新就绪的高优先级任务

                                   -> 可抢占
                                   -> 不可抢占
                                -> 新就绪的低优先级任务

                                   -> 不保证及时调度,延迟不可预知
            -> 多个处理器

               -> 并行计算

                  -> 并行算法

                      -> 空间复用多个处理器的算法专题,略

                  -> 并行调度

                      -> 新就绪的高优先级任务->优先分配到空闲的处理器
                      -> 新就绪的低优先级任务->负荷分担分配到各个处理器

 

3、多内核CPU的技术展望
多内核CPU -> 一个处理单元

             -> 包含多个处理器 -> 并行计算 -> 并行算法 -> ...
                                           -> 并行调度 -> ...
          -> 虚拟机技术 -> 分布式处理系统

                           -> 多个处理单元

                              -> 任务的数量分解,数量空间扩展;
                              -> 任务的功能分解,功能空间扩展。

 

未来多核CPU的不同内核,如果赋予不同的功能,则更加容易组织成一个强大的分布式处理系统,规避了软件开发在并行计算方面的困难。

并行计算、分布式计算、网格计算、云计算区别和联系

并行计算 并行计算是相对于串行计算,时间上并行即流水线技术,空间上并行即多个处理器同时计算,即解决单个处理器性能问题。 分布式计算 将复杂的问题分解成多个小任务分发到多台计算设备处理,最...
  • runningya
  • runningya
  • 2014年08月20日 12:05
  • 2021

高性能计算中的并行计算、分布式计算、网格计算和云计算之间的区别与联系

并行计算、分布式计算、网格计算与云计算都属于高性能计算(High Performance Computing,HPC)的范畴,主要目的在于对大数据的分析与处理,但它们却存在很多差异。电子海图云服务是基...
  • yaoxiaochuang
  • yaoxiaochuang
  • 2014年11月27日 10:09
  • 3822

分布式计算和并行计算的区别

周末抽空看了看分布式计算和并行计算方面的东西,主要是搞清楚了这两个东西的相似点和区别,随便记录几句。相似点很简单,都是为了实现比较复杂的任务,将大的任务分解成小的任务,在多台计算机上同时计算。麻烦的是...
  • qing_10
  • qing_10
  • 2016年06月13日 09:13
  • 715

并行计算与分布式处理的区别?

 并行计算或称平行计算是相对于串行计算来说的。 所谓并行计算可分为时间上的并行和空间上的并行。时间上的并行就是指流水线技术,而空间上的并行则是指用多个处理器并发的执行计算。 并行计算(Pa...
  • huixingshao
  • huixingshao
  • 2015年04月30日 13:27
  • 2653

科普:并行计算、分布式计算、集群计算和云计算

1. 并行计算(Parallel Computing)     并行计算或称平行计算是相对于串行计算来说的。并行计算(Parallel Computing)是指同时使用多种计算资源解决计算问题的过程...
  • wm_1991
  • wm_1991
  • 2015年12月11日 08:25
  • 9783

分布式计算之并行计算

1、并行计算 并行计算或称平行计算是相对于串行计算来说的它是一种一次可执行多个指令的算法目的是提高计算速度及通过扩大问题求解规模解决大型而复杂的计算问题所谓并行计算可分为时间上的并行和空间上的并行 ...
  • ffm83
  • ffm83
  • 2015年01月14日 14:14
  • 996

什么是并行计算?什么是分布式计算?并行计算和分布式计算之前的区别:

1、概念理解 物理处理器:      一个单核CPU,多核CPU的某个内核,都是一个物理处理器;   逻辑处理器:     通过超线程技术可以将一个物理处理器模拟成多个逻辑处理器,    ...
  • zy_zhengyang
  • zy_zhengyang
  • 2014年07月08日 20:27
  • 1395

并行系统与分布式系统区别

今天的分布式老师给了道exercise,分布式与并
  • liyang0609
  • liyang0609
  • 2014年09月22日 16:44
  • 2463

并行计算与分布式计算的区别

并行计算: 空间复用多个处理器; Intel多媒体指令优化集是针对一个处理器,扩展处理额外的数据,属于特殊的并行计算优化; 多处理器系统,操作系统采用并行计算的调度方法...
  • wzz87
  • wzz87
  • 2016年05月22日 20:28
  • 535

并行计算和分布式处理的区别

并行计算和分布式处理的区别  (2007-12-29 01:46:31) 转载▼ 标签:  it   多核cpu   并行计算   分布式处...
  • u010658879
  • u010658879
  • 2014年06月22日 22:39
  • 1006
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:并行计算与分布式计算的关系与区别1
举报原因:
原因补充:

(最多只允许输入30个字)