分布式计算——补充

多个处理器和多核处理器的区别：

对于多个处理器而言，它们在执行命令的时候多个处理器之间的通信手段是电脑主板上的总线；而对于多核处理器而言，多个核心处理器之间通信时通过CPU内部总线进行信息的交互的。对于执行效率而言，多核处理器要优于多个处理器。

对于分布式计算而言，我们讲的通常都是多个处理器。

处理器和内存关系

对于一台拥有多个处理器的计算器，每个处理器可能各自都有一个cache，也可能各自有内存，或者共用一个内存。

对于上述任何一种情况，都可以有共享地址空间（这是一个逻辑上的概念），但是有分为UMA和NUMA。

上图左边为共享内存右边为分布式内存。

我们通常讲的分布式计算，指的是一台电脑上的多CPU或者是多台电脑组成的机群（使用消息传递机制，借助于硬件，比如以字节的方式传输）

并行化

显式并行化指的是并行语言通过编译形成并行程序，隐式并行化指的是串行语言通过编译形成并行程序。