MPI之通信模式(标准，缓存，同步，就绪)

最新推荐文章于 2024-01-28 21:30:03 发布
最新推荐文章于 2024-01-28 21:30:03 发布
阅读量1.9k 收藏 8
点赞数 2
分类专栏： 并行计算 文章标签： MPI 并行计算 通信模式 标准 缓存 同步 就绪
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/KingOfMyHeart/article/details/132642439
版权

MPI缓冲区

  • 由MPI自行维护的一块内存区域，也可由用户(MPI_Bsend)自行维护；
  • 发送方 维护一块发送缓冲区； 接收方 维护一块接收缓冲区。

数据收发过程：

在这里插入图片描述

  • 当发送端将数据拷贝到自身的数据缓冲区后(注意这里是拷贝，即数据到达发送缓冲区，再对原数据进行修改将不会影响发送的数据)，对应的Send函数将会返回，意味着发送动作已经完成；
  • 当接收端将数据拷贝到自身的接收缓冲区中，Recv函数调用结束。

类似于Socket通信时，调用send将数据放置发送缓冲区即表示send完成。

阻塞通信模型

发送

1. 标准通信模式 MPI_Send 该接口是否进行缓存由MPI决定，分情况讨论
  1. 发送进程的发送动作不依赖接收进程(有缓存)：发送进程将数据拷贝到数据缓冲区，不管接收进程有没有执行接收动作，函数都直接返回，发送动作对于用户来讲已经完成；
  2. 发送进程的发送动作依赖于接收进程(不带缓存，直接发送)：发送进程发送消息时需要接收进程也要开始接收进程，两者处于一边发送一边接收的状态，此时MPI_Send阻塞当前发送方直到数据被接收方确认收到，基于底层的数据传输机制；
    在这里插入图片描述
2. 缓存通信模式 MPI_Bsend 当用户对上述标准通信模式不满意，不能满足需求，可以采用该模式

该函数在发送消息时使用明确的缓冲区，并具有较低的内存使用率和较高的性能。相对于 MPI_Send 函数，MPI_Bsend 不阻塞发送方，也不会复制消息缓冲区中的数据，而是将数据拷贝到MPI缓冲区中，MPI_Bsend 函数将立即返回，在MPI缓冲区中的消息稍后使用异步方式传输。

函数原型

int MPI_Bsend(const void *buf, int count, 
MPI_Datatype datatype, int dest, int tag, MPI_Comm comm)
//用户自行管理缓冲区
int MPI_Buffer_attach(void *buffer,int size)
int MPI_Buffer_detach(void *buffer,int &size)

参数详解

  • buf: 待发送数据的首地址
  • count: 待发送的数据量
  • datatype: 待发送数据类型
  • dest: 目标进程的 MPI rank
  • tag: 消息标记
  • comm: MPI通信域

注意事项
发送时需要将数据从消息缓冲区拷贝到用户提供的缓冲区buffer，该方法消除了发送端同步的开销，如前面分析，消息发送能否进行及能否正确返回不依赖于接收进程。好处是用户可以认为程序需要发送的消息提供缓冲区，但用户也需要负责管理该缓冲区。如果该缓冲区buffer大小不足以存储消息缓冲区中待发送的数据，将导致程序错误退出。

#include <stdio.h>
#include <stdlib.h>
#include <mpi.h>

#define BUFFER_SIZE  1024

int main(int argc, char *argv[])
{
    int rank, size;
    MPI_Status status;
    double t0, t1;
    char buf[BUFFER_SIZE];
    char *my_buffer;
    MPI_Request request;

    MPI_Init(&argc, &argv);
    MPI_Comm_rank(MPI_COMM_WORLD, &rank);
    MPI_Comm_size(MPI_COMM_WORLD, &size);

    if(rank == 0)
    {
        //为MPI缓冲区分配内存空间
        my_buffer=(char *)malloc(BUFFER_SIZE);
        MPI_Buffer_attach(my_buffer, BUFFER_SIZE);

        snprintf(buf, BUFFER_SIZE, "Hello, world, from rank %d!", rank);
        t0=MPI_Wtime();
        //异步发送消息
        MPI_Bsend(buf, BUFFER_SIZE, MPI_CHAR, 1, 0, MPI_COMM_WORLD, &request);
        MPI_Wait(&request, &status);
        t1=MPI_Wtime();
        printf("Time taken=%f\n", t1-t0);

        free(my_buffer);
        MPI_Buffer_detach(&my_buffer, &BUFFER_SIZE);
    }
    else
    {
        //为MPI缓冲区分配内存空间
        my_buffer=(char *)malloc(BUFFER_SIZE);
        MPI_Buffer_attach(my_buffer, BUFFER_SIZE);

        t0=MPI_Wtime();
        //等待接收消息
        MPI_Recv(buf, BUFFER_SIZE, MPI_CHAR, 0, 0, MPI_COMM_WORLD, &status);
        t1=MPI_Wtime();
        printf("Rank %d received message=%s, time=%f\n", rank, buf, t1-t0);

        free(my_buffer);
        MPI_Buffer_detach(&my_buffer, &BUFFER_SIZE);
    }

    MPI_Finalize();
    return 0;
}
3. 同步通信模式 MPI_Ssend

该模式的开始不依赖接收进程相应的接收操作是否已经启动，但是同步发送却必须等到相应的接收进程开始后才可以正确返回。即

  • 发送方必须等待接收方的确认才能继续执行。
  • 接收方必须收到消息后才能继续执行。
  • 可以确保接收方正确接收消息。

在这里插入图片描述
函数原型

int MPI_Ssend(void* buf, int count, MPI_Datatype datatype, 
int dest, int tag, MPI_Comm comm)

参数详解

  • buf：指向待发送数据的指针。
  • count：发送元素数量。
  • datatype：发送元素的类型。
  • dest：目标进程的进程号。
  • tag：消息标签。
  • comm：进程通信域

代码示例

#include <stdio.h>
#include <mpi.h>

int main(int argc, char** argv) {
    int size, rank;
    int data;
    MPI_Status status;

    MPI_Init(&argc, &argv);
    MPI_Comm_size(MPI_COMM_WORLD, &size);
    MPI_Comm_rank(MPI_COMM_WORLD, &rank);
if (rank == 0) {
        data = 12345;
        MPI_Ssend(&data, 1, MPI_INT, 1, 0, MPI_COMM_WORLD);
        printf("Process 0 sent data %d to process 1\n", data);
    } else if (rank == 1) {
        MPI_Recv(&data, 1, MPI_INT, 0, 0, MPI_COMM_WORLD, &status);
        printf("Process 1 received data %d from process 0\n", data);
    }

    MPI_Finalize();
    return 0;
}
4. 就绪通信模式 MPI_Rsend

该模式只有当接收进程的接收操作已经启动时才可以在发送进程启动发送操作(即是一种发送并立即返回操作)，否则，当发送操作启动而相应的操作还没有启动时，发送操作将出错，对于非阻塞发送操作的正确返回，并不意味着发送已经完成，但对于阻塞发送的正确返回，则代表发送缓冲区可以重复使用。

函数原型

int MPI_Rsend(const void *buf, int count, MPI_Datatype datatype, 
int dest, int tag, MPI_Comm comm)

参数详解

  • buf：指向待发送数据的指针。
  • count：发送元素数量。
  • datatype：发送元素的类型。
  • dest：目标进程的进程号。
  • tag：消息标签。
  • comm：进程通信域

代码实例

#include <stdio.h>
#include <mpi.h>

int main(int argc, char** argv) {
    int size, rank;
    int data;
    MPI_Status status;

    MPI_Init(&argc, &argv);
    MPI_Comm_size(MPI_COMM_WORLD, &size);
    MPI_Comm_rank(MPI_COMM_WORLD, &rank);

    if (rank == 0) {
        data = 12345;
        MPI_Request request;
        MPI_Rsend(&data, 1, MPI_INT, 1, 0, MPI_COMM_WORLD);
        printf("Process 0 sent data %d to process 1\n", data);
    } else if (rank == 1) {
        MPI_Status status;
        int data_recv;
        MPI_Recv(&data_recv, 1, MPI_INT, 0, 0, MPI_COMM_WORLD, &status);
        printf("Process 1 received data %d from process 0\n", data_recv);
    }

    MPI_Finalize();
    return 0;
}

接收

  • MPI_Recv

非阻塞通信模式

发送

标准通信模式 MPI_Isend
缓存通信模式 MPI_Ibsend

是 MPI_Bsend 的非阻塞版本，在 MPI_Bsend 的基础上，MPI_Ibsend 函数允许发送方在消息发送期间继续执行其他操作，而不必等待消息发送完成。MPI_Ibsend 函数将消息存储在缓冲区中，并返回一个 MPI_Request 对象，代表着消息的发送请求。
函数原型

int MPI_Ibsend(const void* buf, int count, 
MPI_Datatype datatype, int dest, int tag, 
MPI_Comm comm, MPI_Request* request)

参数详解

  • buf：指向待发送数据的指针。
  • count：发送元素数量。
  • datatype：发送元素的类型。
  • dest：目标进程的进程号。
  • tag：消息标签。
  • comm：进程通信域。
  • request：MPI_Request 类型的指针，存储发送请求对象。

代码实例

#include <stdio.h>
#include <mpi.h>

#define BUFFER_SIZE 1024

int main(int argc, char** argv) {
    int size, rank;
    int data;
    MPI_Status status;
    char buffer[BUFFER_SIZE];
    MPI_Request request;

    MPI_Init(&argc, &argv);
    MPI_Comm_size(MPI_COMM_WORLD, &size);
    MPI_Comm_rank(MPI_COMM_WORLD, &rank);

    if (rank == 0) {
        data = 12345;
        MPI_Buffer_attach(buffer, BUFFER_SIZE);
        MPI_Ibsend(&data, 1, MPI_INT, 1, 0, MPI_COMM_WORLD, &request);
        printf("Process 0 sent data %d to process 1\n", data);
        MPI_Wait(&request, &status);
        MPI_Buffer_detach(buffer, &BUFFER_SIZE);
    } else if (rank == 1) {
        int data_recv;
        MPI_Recv(&data_recv, 1, MPI_INT, 0, 0, MPI_COMM_WORLD, &status);
        printf("Process 1 received data %d from process 0\n", data_recv);
    }

    MPI_Finalize();
    return 0;
}
同步通信模式 MPI_Issend

MPI_Ssend 的非阻塞版本，在 MPI_Ssend 的基础上，MPI_Issend 函数允许发送方在消息发送期间继续执行其他操作，而不必等待消息发送完成。MPI_Issend 函数将消息存储在缓冲区中，并返回一个 MPI_Request 对象，代表着消息的发送请求。
函数原型

int MPI_Issend(const void* buf, int count, 
MPI_Datatype datatype, int dest, int tag, 
MPI_Comm comm, MPI_Request* request)

参数详解

  • buf：指向待发送数据的指针。
  • count：发送元素数量。
  • datatype：发送元素的类型。
  • dest：目标进程的进程号。
  • tag：消息标签。
  • comm：进程通信域。
  • request：MPI_Request 类型的指针，存储发送请求对象。

代码实例

#include <stdio.h>
#include <mpi.h>

#define BUFFER_SIZE 1024

int main(int argc, char** argv) {
  int size, rank;
  int data;
  MPI_Status status;
  char buffer[BUFFER_SIZE];
  MPI_Request request;

  MPI_Init(&argc, &argv);
  MPI_Comm_size(MPI_COMM_WORLD, &size);
  MPI_Comm_rank(MPI_COMM_WORLD, &rank);

  if (rank == 0) {
    data = 12345;
    MPI_Buffer_attach(buffer, BUFFER_SIZE);
    MPI_Issend(&data, 1, MPI_INT, 1, 0, MPI_COMM_WORLD, &request);
    printf("Process 0 sent data %d to process 1\n", data);
    MPI_Wait(&request, &status);
    MPI_Buffer_detach(buffer, &BUFFER_SIZE);
  } else if (rank == 1) {
    int data_recv;
    MPI_Recv(&data_recv, 1, MPI_INT, 0, 0, MPI_COMM_WORLD, &status);
   printf("Process 1 received data %d from process 0\n", data_recv);
  }

  MPI_Finalize();
  return 0;
}
就绪通信模式 MPI_Irsend

是 MPI_Rsend 的非阻塞版本，在 MPI_Rsend 的基础上，MPI_Irsend 函数允许发送方在消息发送期间继续执行其他操作，而不必等待消息发送完成。MPI_Irsend 函数将消息存储在缓冲区中，并返回一个 MPI_Request 对象，代表着消息的发送请求。
函数原型

int MPI_Irsend(const void* buf, int count, 
MPI_Datatype datatype, int dest, int tag, 
MPI_Comm comm, MPI_Request* request)

参数详解

  • buf：指向待发送数据的指针。
  • count：发送元素数量。
  • datatype：发送元素的类型。
  • dest：目标进程的进程号。
  • tag：消息标签。
  • comm：进程通信域。
  • request：MPI_Request 类型的指针，存储发送请求对象。

代码实例

#include <stdio.h>
#include <mpi.h>

#define BUFFER_SIZE 1024

int main(int argc, char** argv) {
  int size, rank;
  int data;
  MPI_Status status;
  char buffer[BUFFER_SIZE];
  MPI_Request request;

  MPI_Init(&argc, &argv);
  MPI_Comm_size(MPI_COMM_WORLD, &size);
  MPI_Comm_rank(MPI_COMM_WORLD, &rank);

  if (rank == 0) {
    data = 12345;
    MPI_Buffer_attach(buffer, BUFFER_SIZE);
    MPI_Irsend(&data, 1, MPI_INT, 1, 0, MPI_COMM_WORLD, &request);
    printf("Process 0 sent data %d to process 1\n", data);
    MPI_Wait(&request, &status);
    MPI_Buffer_detach(buffer, &BUFFER_SIZE);
  } else if (rank == 1) {
    int data_recv;
    MPI_Recv(&data_recv, 1, MPI_INT, 0, 0, MPI_COMM_WORLD, &status);
     printf("Process 1 received data %d from process 0\n", data_recv);
  }

  MPI_Finalize();
  return 0;
}

注，MPI_Irsend 的缓冲区大小由 MPI_BSEND_BUFFER_SIZE 宏定义所决定。如果发送的消息大于缓冲区大小，将会导致 MPI_Irsend 函数阻塞

接收

  • MPI_Irecv

区别：

  1. 是否要对发送的数据进行缓存；(缓存)
  2. 是否只有当接收调用执行后才可以执行发送操作；（同步）
  3. 什么时候发送调用可以正确返回；
  4. 发送调用正确返回是否意味着发送已完成。

几种特殊使用场景

短时间内有大量的短消息的发送

可能会导致缓冲区爆掉，导致消息丢失，用户可能需要使用MPI_Bsend控制缓冲区的使用；
如果短消息可以打包成一个大消息，降低发送次数

发送的数据量特别大

MPI提供的缓冲区的大小不够，可能导致数据丢失，从而导致程序卡，MPI_Bsend模式来直接控制缓冲区的使用；

可以进行分段发送，对数据进程拆分。

KingOfMyHeart
关注
  • 2
    点赞
  • 踩
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
并行计算MPI的缓冲通信模式的一个例子
08-14
介绍MPI_Bsend调用的例子。例子首先用缓存模式发送包含5个双精度类型的数据 再发送一个双精度类型的数据 而接收操作仍然使用标准的接收
mpi测试全局通信mpi_Alltoall
01-01
这个代码用于测试mpi全局通信，针对不同的情况，分别使用了MPI_Alltoall和MPI_Alltoallv
MPI 集体通信（collective communication）
最新发布
csdnzzt的博客
01-28 636
MPI_REDUCE将组内每个进程输入缓冲区中的数据按给定的操作op进行运算，并将其结果返回到序列号为root的进程的输出缓冲区中。
并行计算之MPI简介以及基本通信案例(阻塞，非阻塞)
KingOfMyHeart的博客
08-29 2796
MPI_Test 函数的作用与 MPI_Wait 函数类似，都是等待一个请求对象进入完成状态，但 MPI_Test 函数是非阻塞的，即当请求对象尚未完成时，MPI_Test 函数会立即返回一个标志值，而不会阻塞当前进程的执行。通信域中的每个进程都有一个唯一的标识符（通信域内部的秩/等级(rank)），并可以通过指定目标进程的标识符来对目标进程进行通信。，在每个阶段中，数据沿着流水线被处理，不同的进程专门处理不同的阶段。拥有一个主进程，主进程作为任务的分配方，从进程执行任务，主进程负责管理数据的分发和接受；
MPI组通信
a1781609682的博客
12-07 480
MPI组通信之广播和收集
【MPI】MPI组通信、通信模式、自定义数据类型4
weixin_43730667的博客
07-02 790
MPI组通信，多对一、一对多等方式；通信模式；如果非连续或者不同数据类型，可以自定义结构体或者打包。
MPI点到点通信
高阶近似的博客
11-09 1677
MPI点到点通信总述阻塞通信通信模式阻塞同步发送基本原理不足阻塞就绪发送基本原理不足阻塞缓冲发送基本原理不足阻塞标准发送消息大小小于设定的阈值基本原理不足消息大小大于设定的阈值MPI_Sendrecv 和 MPI_Sendrecv_replace非阻塞通信非阻塞标准发送消息大小小于设定的阈值消息大小大于设定的阈值 本文参考了链接Discussion: MPI Basic Point to Point Communication I (mtsu.edu) 总述 在MPI中，点到点通信分为阻塞通信和非阻塞通信。
send_isend_C语言_MPI阻塞非阻塞_MPI通信模式_非阻塞_nan_
09-30
MPI标准阻塞通信模式和非阻塞式通信模式
RS485中继器的使用方法（PROFIBUS通信+MPI通信）.pdf
08-17
在PROFIBUS通信和MPI通信中，它扮演着关键角色，允许网络覆盖更广的区域，同时保持数据传输的可靠性和效率。 1. **RS485中继器的外观与功能**： RS485中继器（如6ES7 972-0AA01-0XA0）具有清晰标识的接口和功能...
MPI划分通信域
11-30
MPI通信域的划分，方法，还有编程，须用远程的服务器连接，并且运行多进程的文件
MPI-通信无组态连接通信方式之单边编程方式
08-16
SIEMENS S7-300 PLC MPI通信全局数据包通信方式，MPI-通信无组态连接通信方式之单边编程方式
跨多个集群的MPI集体通信的延迟均衡优化
03-09
最近，跨多个HPC中心进行资源共享和合作的需求正在Swift增长。 此类多群集HPC系统提供的计算资源比... 本文提出了一种用于多集群MPI的可伸缩延迟均衡广播算法（LB-B）。 它可以动态适应系统的拓扑结构并提高通信性能。
大数据并行计算利器之MPI/OpenMP
02-26
图像连通域标记算法是从一幅栅格图像（通常为二值图像）中，将互相邻接（4邻接或8邻接）的具有非背景值的像素集合提取出来，为不同的连通域填入数字标记，并且统计连通域的数目。通过对栅格图像中进行连通域标记，可...
异构环境下MPI通信技术研究.pdf
09-04
【异构环境下的MPI通信技术】是高性能计算领域的一个重要研究课题，特别是在当前计算资源多样化、硬件加速器广泛应用的背景下。MPI（Message Passing Interface）是一种并行编程模型，用于实现分布式内存系统中的...
对并行计算，OPENMP,OPENMPI,MPI，进程，线程的理解
qq_43562988的博客
06-08 2847
在集群系统中，集群的各节点之间可以采用MPI编程模型进行程序设计，每个节点都有自己的内存，可以对本地的指令和数据直接进行访问，各节点之间通过互联网络进行消息传递，这样设计具有很好的可移植性，完备的异步通信功能，较强的可扩展性等优点。在这样的系统上，MPI使用较多。上文提到进程之间的通信方式大多数是在同一主机之上的，而MPI是用于集群中的节点与节点的通信，个人理解MPI就是上文当中的的socket通信，可以理解为是一种通信库实现，利用它可以容易构造灵活的通信拓扑，例如点对点通信，一对多通信，多对多通信。
并行计算：MPI总结
热门推荐
JacksonKim的博客
08-03 4万+
一、MPI简介 1.什么是MPI Massage Passing Interface:是消息传递函数库的标准规范，由MPI论坛开发。 一种新的库描述，不是一种语言。共有上百个函数调用接口，提供与C和Fortran语言的绑定 MPI是一种标准或规范的代表，而不是特指某一个对它的具体实现 MPI是一种消息传递编程模型，并成为这种编程模型的代表和事实上的标准 2.MPI的特点 MPI有以下的特点： 消息传递式并行程序设计 指用户必须通过显式地发送和接收消息来实现处理机间的数据交换。 在这种并行编程中，每个
笔记——MPI的阻塞通信
weixin_43850810的博客
12-07 4058
阻塞通信与非阻塞通信区别 阻塞通信：在调用返回结果之前，当前进程会一直阻塞，即进程悬挂。阻塞式发送可以理解为，只有进程在确定消息完全发出去（发送到缓冲区）后才会继续执行下一条指令，在此之前会一直等待；阻塞式接受也可以理解为，当前进程在未接受到完整的消息时，会一直等待，直到接收结束才会继续执行。在阻塞通信还没有结束的时候，处理器只能等待，这样就浪费了处理机的计算资源。 非阻塞式通信：对于非阻塞通信 ，不必等到通信操作完全完成便可以返回 ，该通信操作可以交给特定的，通信硬件去完成，在该通信硬件完成该通信操作的同
基于消息传递的并发编程（MPI）之同步收发
Leon的博客
06-15 889
MPI是一种消息传递式并行程序设计机制，用户通过显式地发送和接收消息来实现处理机间的数据交换。在这种并行编程中，每个并行进程均有自己独立的地址空间，相互之间不能访问，必须通过显式的消息传递来实现。这种编程方式是大规模并行处理机（MPP）和机群（Cluster）采用的主要编程方式。本文将简要介绍基于MPI的编程方法。............
MPI通信的方法有哪些
05-11
MPI通信的方法主要有点对点通信和集合通信两种。 1. 点对点通信：包括发送和接收操作。MPI_Send()发送操作和MPI_Recv()接收操作是最基本的点对点通信操作。MPI_Send()将数据从一个进程发送到另一个进程，MPI_Recv()从另一个进程接收数据。MPI_Isend()和MPI_Irecv()是非阻塞的版本，允许程序在数据传输期间执行其他操作。 2. 集合通信：包括广播、散布、收集和归约等操作。MPI_Bcast()广播一个进程的数据到所有其他进程，MPI_Scatter()将一个进程的数据分散到所有进程，MPI_Gather()将所有进程的数据收集到一个进程，MPI_Reduce()将所有进程的数据进行归约操作，得到一个结果。 此外，MPI还提供了一些其他的通信操作，如MPI_Alltoall()、MPI_Allreduce()、MPI_Scan()等。这些操作可以根据具体的需求选择使用。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值