如何实现NxM CUDA矩阵乘法？

Question

我已经在几页上进行了搜索，但是我只找到了NxN矩阵的实现。

如何定义dimBlock和dimGrid来计算？ 另外，如何玩：

int row = blockIdx.y*blockDim.y+threadIdx.y;
int col = blockIdx.x*blockDim.x+threadIdx.x;

有各自的限制？

Answer 1

对于朴素的矩阵乘法，这是微不足道的。 非方阵乘法必须采用以下形式：

C(rowsA x colsB) = A(rowsA x colsA) x B(colsA x colsB)
   (m)     (n)        (m)      ^          ^      (n)
                               |          |
                             must be the same

结果的行和列限制（mxn）以及所需的线程数组的大小因此仅由输出矩阵大小定义，输出矩阵大小由A的行和B的列定义。因此， m=rowsA=rowsC和n=colsB=colsC 。 像这样：

template <typename T>
__global__ void mm_kernel(const T *A, const T *B, T *C, int m, int n, int colsA){

  int row = blockIdx.y*blockDim.y+threadIdx.y;
  int col = blockIdx.x*blockDim.x+threadIdx.x;
  T sum = 0;
  if ((row < m) && (col < n)){
    for (int i = 0; i < colsA; i++) sum += A[colsA*row + i] * B[i*n+col];
    C[row*n+col] = sum;}
}

在您的主机代码中，您需要创建一个像这样的网格：

const int m = 1000; // determines size of output matrix
const int n = 2000; 
const int blkdim = 16;
dim3 dimBlock(blkdim,blkdim);
dim3 dimGrid((n+dimBlock.x-1)/dimBlock.x, (m+dimBlock.y-1)/dimBlock.y);

（以上所有内容均在浏览器中编码，未经测试）

如果尝试制作共享内存优化版本 ，则对于非正方形大小，这将变得更加复杂。 但是，如果您追求的是性能，则应该使用CUBLAS 。