串行计算、并行计算、分布式计算、网格计算与云计算

并行计算
并行计算可以划分成时间并行和空间并行。时间并行即流水线技术，空间并行使用多个处理器执行并发计算，当前研究的主要是空间的并行问题。

并行计算是相对于串行计算来说的。要理解并行计算，首先需要了解串行计算。串行计算是不将任务进行拆分，一个任务占用一块处理资源。

图1 串行计算
并行计算则不同。首先，并行计算可以划分成时间并行和空间并行。时间并行就是流水线技术，空间并行使用多个处理器执行并发计算。目前以研究空间并行为主。从空间并行的角度来说，并行计算将一个大任务分割成多个子任务，每个子任务占用一定处理资源。并行计算中不同子任务占用的不同的处理资源来源于同一块大的处理资源。 换一个说法，就是将一块大的处理资源分为几块小的处理资源，将一个大任务分割成多个子任务，用这些小的处理资源来单独处理这些子任务。 并行计算中各个子任务之间是有很大的联系的，每个子任务都是必要的，其结果相互影响。

图2 并行计算
分布式计算
分布式计算可以看做是一种特殊的并行计算。

分布式计算也是将一个大的任务分成几个子任务，不同子任务占用不同的处理资源。不过分布式计算的子任务之间并没有必然联系（互不相干），不同子任务独享自己的一套单独的计算系统。跟并行计算的不同点在于，分布式计算的子任务具有独立性，一个子任务的运行结果不会影响其他的子任务，所以分布式计算对任务的实