使用SSE内在函数的矩阵乘法

Question

我正在尝试使用SSE进行Matrix乘法。 我为4x4矩阵编写了一个简单的程序。 一切似乎都很好但是当我打印结果时，它的一些垃圾值。 请帮助找出问题/ s。 其次程序在我释放内存时停止工作，而不是正确的程序结束。

#include <stdlib.h>
#include <stdio.h>
#include <time.h>
#include <float.h>
#include <xmmintrin.h>

void main() {
    float **a, **b, **c;
    int a_r = 4, a_c = 4, b_c = 4, b_r = 4;
    int i, j, k;

    /* allocate memory for matrix one */
    a = (float **)malloc(sizeof(float) * a_r);
    for (i = 0; i < a_c; i++) {
        a[i] = (float *)malloc(sizeof(float) * a_c);
    }
    /* allocate memory for matrix two */
    b = (float **)malloc(sizeof(float) * b_r);
    for (i = 0; i < b_c; i++) {
        b[i] = (float *)malloc(sizeof(float) * b_c);
    }
    /* allocate memory for sum matrix */
    c = (float **)malloc(sizeof(float) * a_r);
    for (i = 0; i < b_c; i++) {
        c[i] = (float *)malloc(sizeof(float) * b_c);
    }
    printf("Initializing matrices...\n");

    //initializing first matrix
    for (i = 0; i < a_r; i++) {
        for (j = 0; j < a_c; j++) {
            a[i][j] = 2;
        }
    }
    // initializing second matrix
    for (i = 0; i < b_r; i++) {
        for (j = 0; j < b_c; j++) {
            b[i][j] = 2;
        }
    }
    /* initialize product matrix */
    for (i = 0; i < a_r; i++) {
        for (j = 0; j < b_c; j++) {
            c[i][j] = 0;
        }
    }

    int count = 0;
    /* multiply matrix one and matrix two */
    for (i = 0; i < a_r; i++) {
        for (j = 0; j < a_c; j++) {
            count = 0;
            __m128 result = _mm_setzero_ps();
            for (k = 0; k < 4; k += 4) {
                __m128 row1 = _mm_loadu_ps(&a[i][k]);
                __m128 row2 = _mm_loadu_ps(&b[k][j]);
                result = _mm_mul_ps(row1, row2);

                for (int t = 1; t < 4; t++) {
                    __m128 row3=_mm_loadu_ps(&a[t * 4]);
                    __m128 row4=_mm_loadu_ps(&b[i][t]);
                    __m128 row5 = _mm_mul_ps(row3,row4);
                    result = _mm_add_ps(row5, result);
                }
                _mm_storeu_ps(&c[i][j], result);
            }
        }
    }
    printf("******************************************************\n");
    printf ("Done.\n");

    for (i = 0; i < a_r ; i++) {
        for (j = 0; j < b_c; j++) {
            printf ("%f   ", c[i][j]);   // issue here when I print results.
        }
        printf("\n");
    }     //  Here program stops working.

    /*free memory*/
    for (i = 0; i < a_r; i++) {
        free(a[i]);
    }
    free(a);
    for (i = 0; i < a_c; i++) {
        free(b[i]);
    }
    free(b);
    for (i = 0; i < b_c; i++) {
        free(c[i]);
    }
    free(c);
}

请查看为输出矩阵打印的地址。 如何获得对齐的地址，我有_aligned_malloc ，但仍然没有对齐。

Answer 1

矩阵间接指针的分配是不正确的。 它应该是：

a = (float **)malloc(sizeof(float*) * a_r);

编写这些分配的更安全的方法是：

a = malloc(sizeof(*a) * a_r);

请注意，您可以直接分配2D矩阵：

float (*a)[4][4] = malloc(sizeof(*a));

或者更好，正如Cody Gray建议的那样：

float (*a)[4][4] = _aligned_malloc(sizeof(*a));

_aligned_malloc是一个非标准函数，可确保SSE操作数的正确对齐。

如果您甚至不需要使用malloc()分配这些矩阵：

float a[4][4];

但是对于后一种选择，您必须确保正确对齐SSE操作才能成功。

其余代码还有其他问题：

• void main()不正确。 它应该是int main(void)

• 第二个矩阵操作数应该转置，这样您就可以一次读取多个值。 第二次加载将变为：

   __m128 row2 = _mm_loadu_ps(&b[j][k]); 

• 总和阶段似乎也是错误的。 最后的商店绝对不正确，应该只是：

   c[i][j] = sum;