9.1 体系结构中的并行性

 

9.1 体系结构中的并行性

9.1.1 并行性的概念

计算机系统中的并行性有不同的等级。并行性指计算机系统具有可以同时进行运算或操作的特性，包括同时性和并发性两种含义。

• 同时性：两个或两个以上的事件在同一时刻发生。
• 并发性：两个或两个以上的事件在同一时间间隔内发生。

从处理数据的角度看，并行性等级从低到高可分为：

1. 字串位串：同时只对一个字的一位进行处理。这是最基本的串行处理方式，不存在并行性。
2. 字串位并：同时对一个字的全部位进行处理，不同字之间是串行的。这里已开始出现并行性。
3. 字并位串：同时对许多字的同一位进行处理。这种方式有较高的并行性。
4. 全并行：同时对许多字的全部位进行处理。这是最高一级的并行。

从执行程序的角度看，并行性等级从低到高可分为：

1. 指令内部并行：一条指令执行时各微操作之间的并行。
2. 指令级并行：并行执行两条或多条指令。
3. 任务级或过程级并行：并行执行两个以上过程或任务(程序段)。
4. 作业或程序级并行：并行执行两个以上作业或程序。

在计算机系统中，可以采取多种并行性措施，包括处理数据和执行程序方面的并行性。当并行性提高到一定级别时，则进入并行处理领域。并行处理着重挖掘计算过程中的并行事件，使并行性达到较高的级别。因此，并行处理是体系结构、硬件、软件、算法、编程语言等多方面综合的领域。

9.1.2 提高并行性的技术途径

计算机系统中提高并行性的措施多种多样，就其基本思想而言，可归纳成以下四种途径：

1. 时间重叠：在并行性概念中引入时间因素，通过时间错开，把工作按功能分割为若干个相互联系的部分，并指定专门的部件完成这些部分的工作。例如，流水线技术。
2. 资源重复：在并行性概念中引入空间因素，通过重复资源，大幅度提高计算机系统的性能。例如，多处理器系统。
3. 时间重叠+资源重复：同时运用时间并行和空间并行技术，这种方式在计算机系统中得到广泛应用。
4. 资源共享：通过软件方法，使多个任务按一定时间顺序轮流使用同一套硬件设备。例如，多道程序和分时系统。

9.1.3 单处理器系统中的并行性

早期单处理器的发展过程中，时间并行（流水线）技术起着主导作用。实现时间并行的基础是“部件功能专用化”，即将一件工作按功能分割为若干部分，每一部分指定给专门的部件完成，然后按时间重叠原理使各部分执行过程在时间上重叠，从而提高处理器的速度。

在单处理器中，空间并行技术的运用也十分普遍。例如，多体存储器和多操作部件。资源共享的概念实质上是用单处理器模拟多处理器的功能，形成虚拟机的概念。

9.1.5 并行处理器的体系结构类型

1966年，MJ Flynn从计算机体系结构的并行性出发，按照指令流和数据流的不同组织方式，把计算机系统结构分为如下四种类型：

• 单指令流单数据流 (SISD)：其代表机型是单处理器。
• 单指令流多数据流 (SIMD)：其代表机型是向量处理机。
• 多指令流单数据流 (MISD)：这种结构从未实现过。
• 多指令流多数据流 (MIMD)：其代表机型是多处理器和机群系统。

9.1.6 并行处理器的组织和结构

计算机体系结构可以采用不同方式的并行机制。例如，超标量处理器和超长指令字处理器通过在每个时钟周期内执行多个操作来提高处理器的并行性。

9.1.7 多处理器和多计算机

多处理器系统由多台处理器组成，每台处理器独立执行自己的程序和指令流，相互之间通过专用网络连接，共同完成计算任务。

与广义多处理器系统不同，狭义多处理器系统仅指在同一计算机内处理器之间通过共享存储器方式通信的并行计算机系统。与之相对应，多计算机系统由不共享公共内存的多个处理器系统构成。

9.1.8 多线程处理器

当通过提高处理器主频提升单处理器性能的方法受到制约时，处理器厂商转向处理器片内并行技术。多线程技术允许CPU同时运行多个硬件线程，增加系统吞吐率。

9.1.9 多核处理器（片上多处理器）

多核处理器是在一颗处理器芯片内集成两个或两个以上完整且并行工作的计算引擎。多核处理器通过开发程序内的线程级或进程级并行性提高性能。

9.1.10 不同结构的处理器形态

图9.3展示了不同结构的处理器形态，包括单核处理器、多处理器、多线程处理器、多核处理器以及多核多线程处理器。

通过上述各节的详细讲解，读者可以全面了解并行组织与结构的基本概念、技术途径以及不同体系结构类型，为深入学习并行计算奠定基础。