C++ 并行计算 MPI Tutorial-1

---

简介

早些年时，大多数的并发程序只出现在科学和研究的领域，最广为接受的模型就是消息传递模型：程序通过在进程间传递消息（消息可以理解成带有一些信息和数据的一个数据结构）来完成某些任务。在 1992 年大会上定义了消息传递接口的标准，也就是 MPI，MPI 是一个跨语言的通信协议，MPICH 是 MPI 的一种实现，类似的实现还有 Open MPI，Intel MPI 等。

入门前须知的设计

通讯器（communicator）
通讯器定义了一组能够互相发消息的进程

秩（rank）
这组进程中每个进程分配到的一个序号，进程间显性地通过指定秩来进行通信

标签（tag）
一个进程可以通过指定另一个进程的秩以及一个独一无二的消息标签来发送消息给另一个进程。接受者可以发送一个接收特定标签标记的消息的请求（或者也可以完全不管标签，接收任何消息），然后依次处理接收到的数据

点对点（point-to-point）
涉及一个发送者以及一个接受者的通信被称作的通信

集体性（col