并行计算————计算机架构

1. 冯.诺依曼计算机架构

1）内存；
存储数据和代码指令；
2）控制单元；
从内存中fetch instruction/data，解码instrution，之后完成编程的任务
3）算数逻辑单元；
完成基本的算数逻辑操作。
4）IO
人机交互的接口。

2. flynn 分类

并行计算机的分类有很多方法，上图介绍一种由data stream和instrution stream的两个方面对并行计算机进行分类。
1）SISD
串行计算机。每个cycle只有一个instrution，每个cycle只能完成一个data的操作。
2）SIMD
并行计算机之一，首先所有的processing unit全部执行一条指令，但是processing unit
能够处理不同的数据元素。

3）MIMD

一个cycle内，PU可以执行不同的指令，并且处理不同的数据，目前大部分的高性能的机器均采用这一架构。
3）MISD

一个cycle中，PU可执行不同的指令，但是处理不同的数据。

超标量（MIMD）用硬件来决定哪些指令可以并行执行，而VLIW采用软件来决定哪些指令并行，通过把指令调度的复杂度交给编译器来降低硬件复杂度。