高等计算机系统结构 清华大学,高等计算机系统结构清华大学计算机系.ppt

计算机科学与技术系研究生课程

高等计算机系统结构

清华大学计算机科学与技术系高性能计算研究所

郑纬民教授

2007年9月

高等计算机系统结构

第一章高等计算机的核心技术——并行处理

第二章加速比性能模型与可扩展性分析

第三章互连与通信

第四章划分与调度

第五章并行存储器系统

第六章 Cache Coherence

第七章 Memory Consistency

第八章指令级并行处理

第九章微处理器设计与实现方法

第十章网格计算

高等计算机系统结构

第十

DSM

第十二章传感器网络

第十三章对等计算

第十四章海量网络存储器

第十五章多核CPU技术

第十六章可信计算系统

第十七章虚拟化技术

第十八章基于集群的海量数据处理

第二章加速比性能模型与可扩展性分析

2.1加速比性能分析

2.1.1一般概念

2.1.2加速比

1.3三种加速比性能模型

22可扩展性分析

2.1加速比性能模型

2.1.1一般概念

1处理机一时间积

处理机数目与处理时间的乘积用以度量

这些处理机运行时的资源利用率

若一程序在

Tp,则此P台处理机在Tp时间间隔内完成的工

作最大数量为Ip*P。

可将处理机实际工作曲线对时间的积分

看成是这些处理机完成的有效工作量。

效率为有效工作量与最大工作量之比。

2.并行度( Degree Of Parallelism--DOP)

并行度(DOP)是在一定时间间隔内执行

个程序所用的处理机的数目。

3.并行性分布图

执行一个给定的程序时DOP对时间的分布

图

DOP与对应时间的间隔之积即为处理机要

完成的工作或工作负载

下图所示为一个并行性分布图。

DOP

tI

并行性分布图

2.1.2加速比

1.绝对加速比

将最好的串行算法与并行算法相比较.

定义一(与具体机器有关)将最好的串行算

法在一台上的运行时间与并行算法在N台运行

的时间相比

定义二(与具体机器无关)将最好的串行算

法在最快的顺序机上的执行时间与并行算法

在并行机上的运行时间相比。

2相对加速比

同一并行算法在单节点上运行时间

与在多个相同节点构成的处理机系统上的

运行时间之比。

这种定义侧重于描述算法和并行计

算机本身的可扩展性。

线性加速比:中间开销小,通信少,弱耦合计算

超线性加速比:当应用需要大内存时可能出现

病态加速比:加速比递减,可能是计算量太小

2.1.3三种加速比性能模型

1.固定负载加速比性能模型— Adah定律

在许多实时应用领域,计算负载的大小常固

定。在并行机中,此负载可分布至多台并行执行,

获得的加速比称为fxed- oad speedup。一个问题的

负载可表示如下

W=WS+ Wp

其中,Ws代表问题中不可并行化的串行部分负载,

Wp表示可并行化的部分负载。

则n个节点情况下,加速比可以表示如下

Ws+wp

Ws+wp/n