6条函数的MPI世界，处处有陷阱

最新推荐文章于 2020-04-27 21:31:28 发布
最新推荐文章于 2020-04-27 21:31:28 发布
阅读量2.1k 收藏
点赞数
分类专栏： MPI
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Augusdi/article/details/8863091
版权

MPI其实是十分简单而又强大的并行库。只是这次让我花了半天的工夫才到出了一个一个微小的BUG，让我几乎崩溃。

原程序用于计算两个矩阵相乘。分配任务时，只把第一个矩阵分解传给若干个slave，第二个矩阵全传。虽然效率不高，但我的作业需要是把固定的矩阵大小改为可变的。

源代码：

#include "mpi.h"
#include <stdio.h>
#include <stdlib.h>

#define NRA 62                 /* number of rows in matrix A */
#define NCA 15                 /* number of columns in matrix A */
#define NCB 7                  /* number of columns in matrix B */
#define MASTER 0               /* taskid of first task */
#define FROM_MASTER 1          /* setting a message type */
#define FROM_WORKER 2          /* setting a message type */

int main(argc,argv)
int argc;
char *argv[];
...{
int    numtasks,              /**//* number of tasks in partition */
    taskid,                /**//* a task identifier */
    numworkers,            /**//* number of worker tasks */
    source,                /**//* task id of message source */
    dest,                  /**//* task id of message destination */
    mtype,                 /**//* message type */
    rows,                  /**//* rows of matrix A sent to each worker */
    averow, extra, offset, /**//* used to determine rows sent to each worker */
    i, j, k, rc;           /**//* misc */
double    a[NRA][NCA],           /**//* matrix A to be multiplied */
    b[NCA][NCB],           /**//* matrix B to be multiplied */
    c[NRA][NCB];           /**//* result matrix C */
MPI_Status status;

MPI_Init(&argc,&argv);
MPI_Comm_rank(MPI_COMM_WORLD,&taskid);
MPI_Comm_size(MPI_COMM_WORLD,&numtasks);
if (numtasks < 2 ) ...{
  printf("Need at least two MPI tasks. Quitting... ");
  MPI_Abort(MPI_COMM_WORLD, rc);
  exit(1);
  }
numworkers = numtasks-1;


/**//**************************** master task ************************************/
   if (taskid == MASTER)
   ...{
      printf("mpi_mm has started with %d tasks. ",numtasks);
      printf("Initializing arrays... ");
      for (i=0; i<NRA; i++)
         for (j=0; j<NCA; j++)
            a[i][j]= i+j;
      for (i=0; i<NCA; i++)
         for (j=0; j<NCB; j++)
            b[i][j]= i*j;

      /**//* Send matrix data to the worker tasks */
      averow = NRA/numworkers;
      extra = NRA%numworkers;
      offset = 0;
      mtype = FROM_MASTER;
      for (dest=1; dest<=numworkers; dest++)
      ...{
         rows = (dest <= extra) ? averow+1 : averow;       
         printf("Sending %d rows to task %d offset=%d ",rows,dest,offset);
         MPI_Send(&offset, 1, MPI_INT, dest, mtype, MPI_COMM_WORLD);
         MPI_Send(&rows, 1, MPI_INT, dest, mtype, MPI_COMM_WORLD);
         MPI_Send(&a[offset][0], rows*NCA, MPI_DOUBLE, dest, mtype,
                   MPI_COMM_WORLD);
         MPI_Send(&b, NCA*NCB, MPI_DOUBLE, dest, mtype, MPI_COMM_WORLD);
         offset = offset + rows;
      }

      /**//* Receive results from worker tasks */
      mtype = FROM_WORKER;
      for (i=1; i<=numworkers; i++)
      ...{
         source = i;
         MPI_Recv(&offset, 1, MPI_INT, source, mtype, MPI_COMM_WORLD, &status);
         MPI_Recv(&rows, 1, MPI_INT, source, mtype, MPI_COMM_WORLD, &status);
         MPI_Recv(&c[offset][0], rows*NCB, MPI_DOUBLE, source, mtype, 
                  MPI_COMM_WORLD, &status);
         printf("Received results from task %d ",source);
      }

      /**//* Print results */
      printf("****************************************************** ");
      printf("Result Matrix: ");
      for (i=0; i<NRA; i++)
      ...{
         printf(" "); 
         for (j=0; j<NCB; j++) 
            printf("%6.2f   ", c[i][j]);
      }
      printf(" ****************************************************** ");
      printf ("Done. ");
   }


/**//**************************** worker task ************************************/
   if (taskid > MASTER)
   ...{
      mtype = FROM_MASTER;
      MPI_Recv(&offset, 1, MPI_INT, MASTER, mtype, MPI_COMM_WORLD, &status);
      MPI_Recv(&rows, 1, MPI_INT, MASTER, mtype, MPI_COMM_WORLD, &status);
      MPI_Recv(&a, rows*NCA, MPI_DOUBLE, MASTER, mtype, MPI_COMM_WORLD, &status);
      MPI_Recv(&b, NCA*NCB, MPI_DOUBLE, MASTER, mtype, MPI_COMM_WORLD, &status);

      for (k=0; k<NCB; k++)
         for (i=0; i<rows; i++)
         ...{
            c[i][k] = 0.0;
            for (j=0; j<NCA; j++)
               c[i][k] = c[i][k] + a[i][j] * b[j][k];
         }
      mtype = FROM_WORKER;
      MPI_Send(&offset, 1, MPI_INT, MASTER, mtype, MPI_COMM_WORLD);
      MPI_Send(&rows, 1, MPI_INT, MASTER, mtype, MPI_COMM_WORLD);
      MPI_Send(&c, rows*NCB, MPI_DOUBLE, MASTER, mtype, MPI_COMM_WORLD);
   }
   MPI_Finalize();
}

改过的代码（已经加了很多调试输出）：

#include "mpi.h"
#include <stdio.h>
#include <stdlib.h>

#define MASTER 0               /* taskid of first task */
#define FROM_MASTER 1          /* setting a message type */
#define FROM_WORKER 2          /* setting a message type */

int main(int argc, char *argv[])
...{
    int NRA;
    int NCA;
    int NCB;
    int numtasks,               /**//* number of tasks in partition */
    taskid,                   /**//* a task identifier */
    numworkers,               /**//* number of worker tasks */
    source,                   /**//* task id of message source */
    dest,                   /**//* task id of message destination */
    mtype,                   /**//* message type */
    rows,                   /**//* rows of matrix A sent to each worker */
    averow, extra, offset, /**//* used to determine rows sent to each worker */
    i, j, k, rc;           /**//* misc */
    double  * a,           /**//* matrix A to be multiplied */
    *b,            /**//* matrix B to be multiplied */
    *c;           /**//* result matrix C */
    MPI_Status status;

    MPI_Init(&argc,&argv);
    MPI_Comm_rank(MPI_COMM_WORLD,&taskid);
    MPI_Comm_size(MPI_COMM_WORLD,&numtasks);
    if (numtasks < 2 )
    ...{
        printf("Need at least two MPI tasks. Quitting... ");
        MPI_Abort(MPI_COMM_WORLD, rc);
        exit(1);
    }
    numworkers = numtasks-1;


/**//**************************** master task ************************************/
    if (taskid == MASTER)
    ...{
        scanf("%d %d %d", &NRA, &NCA, &NCB);
        a= new double[NRA*NCA];
        b= new double[NCA*NCB];
        c= new double[NRA*NCB];
        for (int dest=1; dest<= numworkers; ++ dest)
        ...{
            MPI_Send(&NRA, 1, MPI_INT, dest, FROM_MASTER, MPI_COMM_WORLD);
            MPI_Send(&NCA, 1, MPI_INT, dest, FROM_MASTER, MPI_COMM_WORLD);
            MPI_Send(&NCB, 1, MPI_INT, dest, FROM_MASTER, MPI_COMM_WORLD);
        }
        printf("mpi_mm has started with %d tasks. ",numtasks);
        printf("Initializing arrays... ");
        for (i=0; i<NRA; i++)
            for (j=0; j<NCA; j++)
                a[i*NCA+j]= i+j;
        for (i=0; i<NCA; i++)
            for (j=0; j<NCB; j++)
                b[i*NCB+j]= i*j;

        printf("****************************************************** ");
        printf("A Matrix: ");
        for (i=0; i<NRA; i++)
        ...{
            printf(" "); 
            for (j=0; j<NCA; j++)
                printf("%6.2f   ", a[i*NCA+j]);
        }
        printf(" B Matrix: ");
        for (i=0; i<NCA; i++)
        ...{
            printf(" "); 
            for (j=0; j<NCB; j++)
                printf("%6.2f   ", b[i*NCB+j]);
        }
        printf(" ****************************************************** ");

        /**//* Send matrix data to the worker tasks */
        averow = NRA/numworkers;
        extra = NRA%numworkers;
        offset = 0;
        mtype = FROM_MASTER;
        for (dest=1; dest<=numworkers; dest++)
        ...{
            rows = (dest <= extra) ? averow+1 : averow;    
            printf("Sending %d rows to task %d offset=%d apos %d. ",rows,dest,offset, &(a[offset*NCA]) );
            MPI_Send(&offset, 1, MPI_INT, dest, mtype, MPI_COMM_WORLD);
            MPI_Send(&rows, 1, MPI_INT, dest, mtype, MPI_COMM_WORLD);
            MPI_Send(&(a[offset*NCA]), rows*NCA, MPI_DOUBLE, dest, mtype,
                     MPI_COMM_WORLD);
            MPI_Send(&b, NCA*NCB, MPI_DOUBLE, dest, mtype, MPI_COMM_WORLD);
            offset = offset + rows;
        }

        /**//* Receive results from worker tasks */
        mtype = FROM_WORKER;
        for (i=1; i<=numworkers; i++)
        ...{
            source = i;
            MPI_Recv(&offset, 1, MPI_INT, source, mtype, MPI_COMM_WORLD, &status);
            MPI_Recv(&rows, 1, MPI_INT, source, mtype, MPI_COMM_WORLD, &status);
            MPI_Recv(&(c[offset*NCB]), rows*NCB, MPI_DOUBLE, source, mtype, 
                     MPI_COMM_WORLD, &status);
            printf("Received results from task %d ",source);
        }

        /**//* Print results */
        printf("****************************************************** ");
        printf("Result Matrix: ");
        for (i=0; i<NRA; i++)
        ...{
            printf(" "); 
            for (j=0; j<NCB; j++)
                printf("%6.2f   ", c[i*NCB+j]);
        }
        printf(" ****************************************************** ");
        printf ("Done. ");

        delete []a;
        delete []b;
        delete []c;
    }


/**//**************************** worker task ************************************/
    if (taskid > MASTER)
    ...{
        mtype = FROM_MASTER;

        MPI_Recv(&NRA, 1, MPI_INT, MASTER, mtype, MPI_COMM_WORLD, &status);
        MPI_Recv(&NCA, 1, MPI_INT, MASTER, mtype, MPI_COMM_WORLD, &status);
        MPI_Recv(&NCB, 1, MPI_INT, MASTER, mtype, MPI_COMM_WORLD, &status);

        printf("processor %d : NRA %d, NCA %d, NCB %d. ", taskid, NRA, NCA, NCB);
               
        a= new double[NRA*NCA];
        b= new double[NCA*NCB];
        c= new double[NRA*NCB];
        printf("a addr : %d on procs %d. ", &a, taskid);
        if (a==NULL || b==NULL || c==NULL)
        ...{
            printf("Allocated error on procs %d. ", taskid);
        }

        MPI_Recv(&offset, 1, MPI_INT, MASTER, mtype, MPI_COMM_WORLD, &status);
        MPI_Recv(&rows, 1, MPI_INT, MASTER, mtype, MPI_COMM_WORLD, &status);

        printf("processor %d : offset %d, rows %d. ", taskid, offset, rows);

        MPI_Recv(&a, rows*NCA, MPI_DOUBLE, MASTER, mtype, MPI_COMM_WORLD, &status);
        ...{
            int count;
            MPI_Get_count(&status, MPI_DOUBLE, &count);
            printf("recived %d data of a on procs %d, %d. ", count, taskid, *(a+2));
            printf("a addr : %d on procs %d. ", &a, taskid);
        }
        MPI_Recv(&b, NCA*NCB, MPI_DOUBLE, MASTER, mtype, MPI_COMM_WORLD, &status);
        ...{
            int count;
            MPI_Get_count(&status, MPI_DOUBLE, &count);
            printf("recived %d data of b on procs %d. ", count, taskid);
        }

        printf("******on processor %d ******************************** ", taskid);
        printf("A Matrix: ");
        for (i=0; i<NRA; i++)
        ...{
            printf(" "); 
            for (j=0; j<NCA; j++)
                printf("%6.2f   ", a[i*NCA+j]);
        }
        printf(" B Matrix: ");
        for (i=0; i<NCA; i++)
        ...{
            printf(" "); 
            for (j=0; j<NCB; j++)
                printf("%6.2f   ", b[i*NCB+j]);
        }
        printf(" ****************************************************** ");

        for (k=0; k<NCB; k++)
            for (i=0; i<rows; i++)
            ...{
                c[i*NCB+k] = 0.0;
                for (j=0; j<NCA; j++)
                    c[i*NCB+k] = c[i*NCB+k] + a[i*NCA+j] * b[j*NCB+k];
            }
        mtype = FROM_WORKER;
        MPI_Send(&offset, 1, MPI_INT, MASTER, mtype, MPI_COMM_WORLD);
        MPI_Send(&rows, 1, MPI_INT, MASTER, mtype, MPI_COMM_WORLD);
        MPI_Send(&c, rows*NCB, MPI_DOUBLE, MASTER, mtype, MPI_COMM_WORLD);

        delete []a;
        delete []b;
        delete []c;
    }
    MPI_Finalize();
}


以上程序的运行唯一结果，就是segment fault。

后在通过dbx工具在core中定位到printf("%6.2f ", a[i*NCA+j]);一句。经过分析，终于找到问题出现在由

double a[][] -> double *a = new [] 这样的转变中。

由于这样的转变，a变成了指针，因此使用Send或Recieve时，就不能再使用 &a 作为第一个参数了，而是直接使用a。

程序这样修改后，终于能正常执行了。而我也可以继续下一个作业了。


Augusdi
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Linux系统下mpi 编程出现：Signal: Segmentation fault， Signal code: Address not mapped
12-16 4948
在Ubuntu（安装了mpich和openmpi）下MPI编程时，代码没问题，但是在mpirun运行的时候出现如下问题[ubuntu:04803] *** Process received signal *** [ubuntu:04803] Signal: Segmentation fault (11) [ubuntu:04803] Signal code: Address not ...
mpi大规模矩阵乘法C语言,MPI多进程并行计算矩阵乘法实现
weixin_30678145的博客
05-24 2015
MPI多进程并行计算矩阵乘法实现，对原始矩阵A、B进行初始化算为： 其主要思想：是把相乘的矩阵按行分解(任务分解)，分别分给不同的进程，然后在汇总到一个进程上，在程序上实现则用到了主从模式，人为的把进程分为主进程和从进程，主进程负责对原始矩阵初始化赋值，并把数据均匀分发(为了负载均衡)到从进程上进行相乘运算，主要用到的知识是MPI点对点通信的机制。具体代码为：// YinXing_Matrix_m...
mpi my_rank全为0而comm_sz全为1的解决办法
Hey___Man的博客
05-26 3128
今天在编写mpi并行程序时，出现了一个莫名其妙的问题。 MPI_Comm_rank(MPI_COMM_WORLD,&amp;my_rank); MPI_COmm_size(MPI_COMM_WORLD,&amp;comm_sz); 这两行语句分别获取通信域MPI_COMM_WORLD中的进程号和进程数量，然而我的程序在执行这两条语句后，my_rank全部变为0，comm_sz全部变为1。 在...
MPI.rar_MPI_MPI函数_mpich_mpich parallel
09-20
2. **进程管理**：MPI提供`MPI_Init`和`MPI_Finalize`等函数来初始化和结束并行环境，`MPI_Comm_rank`和`MPI_Comm_size`用于获取进程的ID（rank）和进程组的大小。 3. **进程组与通信域**：`MPI_COMM_WORLD`是最基础...
MPI_TEST.rar_MPI test_MPI_Test_mpi test函数
09-21
在并行程序中，`MPI_Test`经常与`MPI_Iprobe`一起使用，来检测是否有新的消息到达，或者某个发送操作是否完成，从而实现更精细的并发控制。例如，你可以创建一个循环，不断地检查请求状态，直到所有通信操作完成。 ...
mpi4py 基本函数学习
01-23
mpi4py 基本函数学习
MPI函数的参考手册
09-01
这个“MPI函数的参考手册”是程序员在使用MPI编程时的重要参考资料，它详细列出了MPI库中主要函数的功能、用法和参数。 在MPI中，函数接口分为C接口和Fortran接口。C接口更为简洁，而Fortran接口通常会包含一个额外...
MPI计时函数1
08-08
这两种计时方法分别是MPI自带的`MPI_Wtime()`函数和C语言标准库中的`clock()`函数。 首先，我们来看MPI提供的计时函数`MPI_Wtime()`。这个函数返回自某个全局参考时间以来的时间（以秒为单位），并且在整个MPI进程...
MPI程序中的多进程写冲突问题的解决与遗留问题
并行时代
03-20 6028
  最近碰到关于多进程写文件的问题，问题的描述如下：有一个MPI程序，会以n个进程运行程序，然后在每个进程结束的时候向timer.txt文件写入数据。  开始的时候，用的是普通的写文件操作，显然不行，若是各个进程结束的时间相差较大，不会有错误，若是执行时间相差很小，大约是几是个毫秒，就会导致出错，其实这种做法本身就存在问题。  后来，参考unix环境高级编程提到的方法，又试用了其中三种方法
tensorflow+MPI多进程报错的解决办法：Signal: Segmentation fault (11)Signal code: Address not mapped (1)
廣 闊 天 地 大 有 作 為
04-27 7716
tensorflow+MPI跑一个任务。遇到如下错误： [cdc-24:02776] *** Process received signal *** [cdc-24:02776] Signal: Segmentation fault (11) [cdc-24:02776] Signal code: Address not mapped (1) [cdc-24:02776] Failing at a...
mpi 程序示例
roselily008的博客
05-17 1455
#include <stdio.h> #include "mpi.h" int main(int argc, char *argv[]) { int rank, value, size; MPI_Status status; MPI_Init(&argc, &argv); MPI_Comm_rank(MPI_COMM_WORLD, &a...
在线图书商城平台，资源由网络分享整理，如有侵权请联系我
07-23
网上书店系统是一个基于Web的应用程序，它允许用户在互联网上浏览、选购图书，并进行在线交易。这个系统通常由几个核心组件组成，包括前端用户界面、后台数据库管理、购物车功能、支付接口以及订单处理模块。下面我们将详细探讨这些知识点。 1. ASP.NET：ASP.NET是由微软开发的一个用于构建动态网站、应用程序和Web服务的框架。它支持多种编程语言，如C#，提供了丰富的功能和工具，简化了Web应用的开发过程。在本系统中，ASP.NET可能用于创建网页交互逻辑，处理用户请求并返回响应。 2. C#：C#是一种面向对象的编程语言，常用于构建Windows桌面应用和Web应用。在这个网上书店系统中，C#可能被用来编写服务器端的业务逻辑代码，处理用户输入，访问数据库，以及与各种服务进行交互。 3. 数据库：数据库是存储网上书店系统所有数据的地方，包括书籍信息（如书名、作者、出版社、价格等）、用户信息、订单详情等。常见的数据库管理系统如MySQL、SQL Server或Oracle可能被用于存储和检索这些数据。开发者需要使用SQL语句来设计和操作数据库，确保数据的一致性和完整性。 4. 系统
html+js制作的网页计算机 可以实现加减乘除等运算
最新发布
07-23
大二下半学期的网页设计课程作业 html+js制作的网页计算机 可以实现加减乘除等运算
王江涛六级：完整齐全 课程+资料（百度网盘链接）
07-23
资料包含：讲义，规划导学，六级核心技巧讲解，水平测试解析，考前点睛，写译预测，高频核心词训练营，等等。
springboot整合MinIO中间件，实现文件便捷管理
07-23
springboot整合MinIO中间件，实现文件便捷管理
MPI参考手册：C接口详解与函数速查
附录3是手册的核心部分，主要介绍了MPI函数的C语言接口，这些函数涉及通信（如MPI_Allgather, MPI_Reduce）、同步（如MPI_Barrier）、发送与接收（如MPI_Send, MPI_Bcast）、以及进程管理（如MPI_Comm_create）等。...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值