并行计算的3中基本模型

1.PRAM模型

　　 PRAM（Parallel Random Access Machine）模型是单指令流多数据流（SIMD）并行机中的一种具有共享存储的模型。它假设有一个无限大容量的共享存储器，并且有多个功能相同的处理器，在任意时刻处理器可以访问共享存储单元。

分类：

　　根据是否可以同时读写，它又分为以下三类：PRAM-EREW，PRAM-CREW，PRAM-CRCW（其中C代表Cuncurrent，意为允许并发操作，E-代表Exclusive，意味排斥并发操作）。在PRAM中有一个同步时钟，所有的操作都是同步进行的。

优缺点：

缺点是不现实，首先容量无限大的存储器是不存在的，而且由于各方面的原因，全局访存通常要比预想的慢。其次，他忽略了通信带宽的影响。优点是结构简单，便于进行理论分析。

2.BSP模型

　　BSP (BulkSynchronous Parallel Computing Model) 整体同步并行计算模型，又名大同步模型或BSP模型，由哈佛大学Viliant和牛津大学BillMcColl提出。

　　BSP的创始人是英国著名的计算机科学家Viliant，他希望像冯·诺伊曼体系结构那样，架起计算机程序语言和体系结构间的桥梁，故又称作桥模型(Bridge Model)。该模型使用了三个属性描述：模块(Components)、选路器（Router）和同步路障器执行时间L。

3.LogP模型

LogP是由大卫·卡勒等人提出的，它使用了L,O,G,P四个参数来描述这个模型。

L (Latency)

表示信息从源到目的地所需的时间；

O (Overhead)

表示处理器接受或发送一条消息所需额外开销，并且在此期间处理器不能做作任何操作；

G (Gap)

表示处理器连续进行两次发送或接收消息之间必须有的时间间隔；

P (Processor)

表示处理器的数目。

由上可以看出，LogP模型一方面充分讨论了网络的通信特性，另一方面却放弃了对网络拓扑的讨论。在LogP中没有出现超级步的概念，这是因为LogP中是消息同步的，也就是说，一旦消息到达了处理器我们就可以使用，而不必要等到下一个超级步。