mpi4py 中的全收集操作

最新推荐文章于 2021-06-16 15:44:43 发布

自可乐

最新推荐文章于 2021-06-16 15:44:43 发布

阅读量673

点赞数

分类专栏： Python 并行计算 Python 并行计算文章标签： Python MPI mpi4py 并行计算编程

本文链接：https://blog.csdn.net/ZuoShifan/article/details/79796489

版权

本文介绍了mpi4py中的全收集操作，包括组内通信子和组间通信子的全收集，以及非对称全收集。讲解了全收集操作的方法接口，如Allgather和Allgatherv，并提供了使用例程展示其工作原理。

摘要由CSDN通过智能技术生成

本文从本人简书博客同步过来

在上一篇中我们介绍了 mpi4py 中的规约操作方法，下面我们将介绍全收集操作。

对组内通信子上的全收集操作，将组内所有进程的发送缓冲区的数据连接在一起，并发送到所有进程的接收缓冲区内。

对组间通信子上的全收集操作，假定关联的组为 group A 和 group B，则 A 中的每一个进程贡献一个数据项，连接在一起保存到 B 的各个进程中，同时 B 的各个进程也将自己的数据项连接在一起发送给 A 的各个进程。因此 A 的发送缓冲区参数必须与 B 的接收缓冲区参数匹配，反之亦然。

组间通信子上的全收集操作可以是非对称的， group A 中的各进程所发送的数据量可能与 group B 中各进程发送的数据量不同，甚至在某个方向上某些进程的发送数据量可以为 0。

方法接口

mpi4py 中的全收集操作的方法（MPI.Comm 类的方法）接口为：

allgather(self, sendobj)

Allgather(self, sendbuf, recvbuf)
Allgatherv(self, sendbuf, recvbuf)

这些方法的参数与收集操作对应方法的参数类似，不同的是对全收集操作没有了 root 参数。

对组内通信子对象的 Allgather 和 Allgatherv，可以将其 sendbuf 参数设置成 MPI.IN_PLACE，此时 recvbuf 将被既用做发送缓冲区，又用作接收缓冲区，并且默认各进程需要从自己处接收到 recvbuf 的数据已经分别在正确的位置上。

例程

下面给出全收集操作的使用例程。

# allgather.py

"""
Demonstrates the usage of allgather, Allgather, Allgatherv.

Run this with 4 processes like:
$ mpiexec -n 4 python allgather.py
"""

import numpy as np
from mpi4py import MPI


comm = MPI.COMM_WORLD
rank = comm.Get_rank()

# --------------