MPI_Allgather 与 2D arrays

Question

我正在尝试计算一些基于其先前位置的物体的 position。 因此，在每个 k 循环中，我需要使用计算并存储在 Cw arrays 中的物体的新坐标 (x,y,z) 来更新每个 C 数组。 我尝试了 MPI_Allgather，但找不到正确的语法来实现它。

我检查了 output 与问题的串行版本 k=1 和 F、V 和 Cw arrays 的值是正确的，所以唯一的问题是 MPI_Allgather。 为简单起见，现在 dt 变量等于 1。 我试过这个，但没有一个工作。 第一个仅更新从 Cw 开始的第一行 C 数组和另外 2 个值但在错误的位置，并且 rest 与开始时填充时相同。 第二个给出Segmentation fault

MPI_Allgather(&(Cw[0][0]),length*3,MPI_FLOAT,&(C[0][0]),length*3,MPI_FLOAT,MPI_COMM_WORLD);

MPI_Allgather(Cw,length*3,MPI_FLOAT,C,length*3,MPI_FLOAT,MPI_COMM_WORLD);

这是代码

float **C,**Cw;

C=malloc(N*sizeof(float*));
Cw=malloc(length*sizeof(float*));

for(i=0;i<length;i++)
{
    Cw[i]=malloc(3*sizeof(float));
}

for(i=0;i<N;i++)
{
    C[i]=malloc(3*sizeof(float));
}


for(k=0;k<loop;k++)
{
    for(i=start;i<=end;i++)                      
    {
        for(j=0;j<N;j++)                        
        {
            if(i!=j)
            {
                dx=C[j][0]-C[i][0];
                dy=C[j][1]-C[i][1];
                dz=C[j][2]-C[i][2];

                d=sqrt(pow(dx,2)+pow(dy,2)+pow(dz,2));

                F[i-start][0] -= G*M[i]*M[j]/pow(d,3)*dx;
                F[i-start][1] -= G*M[i]*M[j]/pow(d,3)*dy;
                F[i-start][2] -= G*M[i]*M[j]/pow(d,3)*dz;
            }
        }
    }

    for(i=0;i<length;i++)
    {
        for(j=0;j<3;j++)
        {
            a=F[i][j]/M[i+start];                 // α=F/m
            V[i][j]=V[i][j]+a*1;                 // V(n+1)=Vn+α*Δt
            Cw[i][j]=C[i+start][j]+V[i][j]*1;    // R(n+1)=Rn+Vn*Δt
        }
    }

    // where MPI_Allgather takes place
}

我期望的 output 是由串行程序https://drive.google.com/open?id=1fwLu8Jk3JEorFTvNJyOtti3K_zIw0ncw 提供的

带有此代码的 mpi 版本

MPI_Allgather(&(Cw[0][0]),length*3,MPI_FLOAT,&(C[0][0]),length*3,MPI_FLOAT,MPI_COMM_WORLD);

给出这个 output https://drive.google.com/open?id=14cEFFRvNGUN_RK3u8Z31iRDtiTJs6_8I

Answer 1

再一次，这个指向指针的废话（对于 scicomp）：您通过 MPI 传递指向行的指针，而不是内容。

我建议您避免将数组分配为 N 个独立行，如下所示：

float **C,**Cw;

// I guess that you missed to paste these two lines
C  = malloc( N * sizeof(float*) );    
Cw = malloc( length * sizeof(float*) );

for(i=0;i<length;i++)
{
    Cw[i]=malloc(3*sizeof(float));
}

for(i=0;i<N;i++)
{
    C[i]=malloc(3*sizeof(float));
}

以这种方式分配的 arrays 在 memory 中不是线性的，并且不能被 MPI 函数全局使用。 当您传递C时，您传递的只是指针数组。 传递&C[0][0] ，您传递的是前 3 个元素的数组，但其他 3 个元素的数组在 memory 中不连续，因为它们是独立分配的。 因此，段错误是您可以实现的最好的结果，随机结果是最坏的。

将所需的 memory 分配在一个块中是正确的，MPI function 可以正确处理：

float *C,*Cw;
C  = malloc( N * 3 * sizeof(float) );    
Cw = malloc( length * 3 * sizeof(float) );

并将任何 memory 访问替换为

            dx=C[j][0]-C[i][0];
            dy=C[j][1]-C[i][1];
            dz=C[j][2]-C[i][2];

和

            dx=C[3*j+0]-C[3*i+0];
            dy=C[3*j+1]-C[3*i+1];
            dz=C[3*j+2]-C[3*i+2];

这样，传递C将导致正确传递数组内容。