第一章
1、并行计算的定义和主要目的P11
定义:并行计算是指同时对多个任务或多条指令、或对多个数据项进行处理。完成此项处理的计算机系统称为并行计算机系统,它是将多个处理器(可以几个、几十个、几千个、几万个等)通过网络连接以一定的方式有序地组织起来(一定的连接方式涉及网络的互联拓扑、通信协议等,而有序的组织则涉及操作系统、中间件软件等)。
并行计算的主要目的:
一是为了提供比传统计算机快的计算速度;
二是解决传统计算机无法解决的问题。
2、并行计算研究的主要内容P12-17
(1)并行计算机的设计
(2)有效算法的设计
(3)评价并行算法的方法
(4)并行计算机语言
(5)并行编程环境与工具
(6)并行程序的可移植性
(7)并行计算机的自动编程
3、并行计算机体系结构要素P34-37
结点、互联网络、内存
4、什么是并行计算机、并行计算机的组成部分P26-27
并行计算机是由一组处理单元组成的,这组处理单元通过相互之间的通信与协作,以更快的速度共同完成一项大规模的计算任务。
并行计算机的组成部分:计算节点和节点间的通信与协作机制。
5、进程的定义、状态和进程间的信息交流方式P39-40
(1)进程的定义:进程(process)可表示成四元组(P, C, D, S)
P是程序代码
C是进程的控制状态
D是进程的数据
S是进程的执行状态
(2)进程的状态:
非存在状态:进程依赖的程序还没有投入运行
就绪状态:进程由其父进程调入并准备运行
运行状态:进程占有CPU和其它必须的计算资源,并执行指令
挂起状态:由于CPU或其它必须的计算资源被其它进程占有,或必须等待某类事件的发生,进程转入挂起状态
退出状态:进程正常结束或因异常退出而被废弃
(3)进程间的信息交流方式:
进程是操作系统资源调度的基本单位
各进程不能直接访问其它进程的局部内存空间
多个进程之间相互交流信息 的三种形式 :
通信:进程间的数据传递称为进程间通信
同步:同步是使位于相同或不同处理机中的多个进程之间相互等待的操作
聚集:聚集将位于相同或不同处理机中的多个进程的局部结果综合起来
6、并行计算机的分类Flynn(1966年)分类法P48
Flynn(1966年)分类法是根据系统的指令流和数据流对计算机系统进行分类的一种方法。
指令流:机器所执行的指令序列
数据流:指令流调用的数据序列(包括输入数据和中间结果)
1)SISD:传统的单处理机系统。由程序生成的一个单指令流,在任意时刻处理单独的数据项。
2)SIMD:如:阵列处理机系统(Processor Arrays)。由一个控制器负责从存储器中取出指令并将这些指令发送给各个处理器,每个处理器同步执行相同的指令,但操作不同的数据。
3)MISD:相当于在指令一级并行,而在被操作的数据级串行的情况,实际上这种模型是不能实现的。
4)MIMD:当今绝大多数并行计算机都属于这一类。每个处理器拥有一个单独的程序,每个程序为每一个处理器生成一个指令流,每条指令对不同的数据进行操作。
第二章
1、并行处理技术的核心P1
核心:增加同一时间间隔的操作数
2、并行算法的定义P3
并行算法:适合于并行操作的一类算法的总称。
并行算法是指在各种并行计算机上求解问题和处理数据的算法,其本质是把多个任务映射到多个处理器中执行。并行算法的实现强烈依赖