分布式并行计算

并发与并行？？

并发：concurrency
并行：parallelism

• 解释一：并行是指两个或多个事件在同一时刻发生；而并发是指两个或多个事件在同一时间间隔发生
• 解释二：并行是在不同实体上的多个事件；并发是在同一实体上的多个事件。
• 解释三：并行是在一台处理器上“同时” 处理多个任务；并发是在多台处理器上同时处理多个任务

###同步与异步

同步：进程之间的关系不是相互排斥临界资源的关系，而是相互依赖的关系。进一步的说明：就是前一个进程的输出作为后一个进程的输入，当第一个进程没有输出时第二个进程必须等待。具有同步关系的一组并发进程相互发送的信息称为消息或事件。

异步：异步和同步是相对的，同步就是顺序执行，执行完一个再执行下一个，需要等待、协调运行。异步就是彼此独立,在等待某事件的过程中继续做自己的事，不需要等待这一事件完成后再工作。线程就是实现异步的一个方式。异步是让调用方法的主线程不需要同步等待另一线程的完成，从而可以让主线程干其它的事情。

编译型语言和解释性语言

编译型语言：

使用专门的编译器，针对特定平台，将高级语言的源代码一次性的编译为可被该平台硬件执行的机器码，并包装成该平台所能识别的可执行性程序的格式。运行时直接使用编译过的结果。程序的执行效率高，跨平台性差。
常见的编译型语言有：

C /C++、Pascal/Object Pascal（Delphi）、Golang

解释型语言

程序不需要编译，程序在运行时才翻译成机器语言，每执行
一次都要翻译一次。因此效率比较低。在运行程序的时候才翻译，专门有一个解释器去进行翻译，每个语句都是执行的时候才翻译。效率比较低、依赖解释器，跨平台性好.
常见的解释型语言有：

Java、C#、PHP、JavaScript、VBScript、Perl、Python、Ruby、MATLAB

编译器compiler

GCC家族中GNU GCC是根本，其它的编译器版本都是从它到导出的

IDC机房

即互联网数据中心(Internet Data Center)

超算Top500
http://supercomputing.org/