使用MPI_TYPE_VECTOR代替MPI_GATHER

Question

假设k个进程计算矩阵A的元素，其维数为（n，m） ，其中n是行数， m是列数。 我正在尝试使用MPI_GATHER在根过程中将这两个矩阵收集到矩阵B中，其中B的维数为（n，km） 。 更具体地说，我在下面编写了一个示例fortran代码。 在这里，我将矩阵A的各列（而不是整个矩阵）传递到矩阵B，但这行不通。 当我使用mpirun -n 2 a.out运行可执行文件时，出现错误：

malloc：对象0x7ffa89413fb8的错误：已释放对象的校验和不正确-对象在释放后可能已被修改。

1）为什么会收到此错误消息？

2）谁可以从概念上进行解释，为什么我必须使用MPI_TYPE_VECTOR ？

3）我应该如何更正代码的MPI_GATHER部分？ 我可以跳过整个矩阵A吗？

PROGRAM test

IMPLICIT NONE

INCLUDE "mpif.h"

INTEGER, PARAMETER      :: n=100, m=100
INTEGER, ALLOCATABLE, DIMENSION(:,:)    :: A
INTEGER, DIMENSION(n,m) :: B
INTEGER     :: ind_a, ind_c
INTEGER     :: NUM_PROC, PROC_ID, IERROR, MASTER_ID=0
INTEGER     :: c
INTEGER, DIMENSION(m)       :: cvec

CALL MPI_INIT(IERROR)  
CALL MPI_COMM_RANK(MPI_COMM_WORLD, PROC_ID, IERROR)  
CALL MPI_COMM_SIZE(MPI_COMM_WORLD, NUM_PROC, IERROR) 

ALLOCATE(A(n,m/NUM_PROC))

DO ind_c=1,m
    cvec(ind_c)=ind_c
END DO

! Fill in matrix A
DO ind_a=1,n    
    DO ind_c=1,m/NUM_PROC
        c=cvec(ind_c+PROC_ID*m/NUM_PROC)    
        A(ind_a,ind_c)=c*ind_a
    END DO
END DO

! Gather the elements at the root process          
DO ind_a=1,n

CALL MPI_GATHER(A(ind_a,:),m/NUM_PROC,MPI_INTEGER,B(ind_a,PROC_ID*m/NUM_PROC+1:(PROC_ID+1)*m/NUM_PROC),m/NUM_PROC,MPI_INTEGER,MASTER_ID,MPI_COMM_WORLD,IERROR)

END DO

CALL MPI_FINALIZE(IERROR)

END PROGRAM

Answer 1

可以在二维数组中执行两种类型的收集操作。 1.从所有过程的第2维收集元素，并在一个过程的第2维收集元素； 2.从所有流程的第2维收集元素，并在一个流程的第1维收集元素。

在这个例子中说； n = dimension-1和m = dimension-2，我们知道Fortran是专栏主要的。 因此，在Fortran中，维度1在内存中是连续的。

在您的collect语句中，您尝试从所有进程中收集Array-A的Dimension-2，并将其收集到MASTER_ID proc（TYPE-1）中的Array-B的Dimension-2中。 由于维2在内存中不连续，因此会导致分段错误。

如下所示的单个MPI_Gather调用将执行所需的操作，而没有如上所示的任何循环提示：

CALL MPI_GATHER(A, n*(m/NUM_PROC), MPI_INTEGER, & B, n*(m/NUM_PROC), MPI_INTEGER, MASTER_ID, & MPI_COMM_WORLD, IERROR)

但是，如果您尝试从MASTER_ID proc中的所有过程中将元素从Array-A的维度2收集到Array-B的维度1，那就是当我们需要使用MPI_TYPE_VECTOR时，我们将使用非连续元素。 让我知道这是否是意图。

因为，当前的代码逻辑看起来不像我们需要使用MPI_TYPE_VECTOR。