基于共享存储器的1d模板CUDA实现中的负数组索引

Question

我目前正在使用CUDA编程，我正在尝试从我在网上找到的工作室学习幻灯片，可以在这里找到。 我遇到的问题是幻灯片48 。 可以在那里找到以下代码：

__global__ void stencil_1d(int *in, int *out) {

    __shared__ int temp[BLOCK_SIZE + 2 * RADIUS];

    int gindex = threadIdx.x + blockIdx.x * blockDim.x;
    int lindex = threadIdx.x + RADIUS;

    // Read input elements into shared memory
    temp[lindex] = in[gindex];
    if (threadIdx.x < RADIUS) {
        temp[lindex - RADIUS] = in[gindex - RADIUS];
        temp[lindex + BLOCK_SIZE] = in[gindex + BLOCK_SIZE];
    }

....

添加一些上下文。 我们有一个名为阵列in其中的长度说N 。 然后，我们有另一个阵列out其长度为N+(2*RADIUS) ，其中RADIUS对于此特定示例的值为3 。 我们的想法是复制阵列in ，到数组out但到阵列放置in位置3从数组的开头out即out = [RADIUS][in][RADIUS]参见图形表示幻灯片。

混乱来自以下几行：

 temp[lindex - RADIUS] = in[gindex - RADIUS];

如果gindex为0那么我们in[-3] 。 我们如何读取数组中的负数索引？ 真的很感激任何帮助。

Answer 1

您假设in数组中指向已为此数组分配的内存的第一个位置。 但是，如果你看到滑动47， in阵列具有三个元素的卤代（橙色框） 之前和数据之后 （表示为绿色立方体）。

我的假设是（我还没有完成研讨会）输入数组首先用晕圈初始化，然后指针在内核调用中移动。 就像是：

stencil_1d<<<dimGrid, dimBlock>>>(in + RADIUS, out);

因此，在内核中， in[-3]可以安全地执行in[-3]因为指针不在数组的开头。

Answer 2

pQB的答案是正确的。 您应该通过RADIUS偏移输入数组指针。

为了表明这一点，我在下面提供了一个完整的例子。 希望它对其他用户有益。

（我会说在共享内存加载后你需要一个__syncthreads() 。我在下面的例子中添加了它。）

#include <thrust/device_vector.h>

#define RADIUS      3
#define BLOCKSIZE   32

/*******************/
/* iDivUp FUNCTION */
/*******************/
int iDivUp(int a, int b){ return ((a % b) != 0) ? (a / b + 1) : (a / b); }

/********************/
/* CUDA ERROR CHECK */
/********************/
#define gpuErrchk(ans) { gpuAssert((ans), __FILE__, __LINE__); }
inline void gpuAssert(cudaError_t code, const char *file, int line, bool abort=true)
{
   if (code != cudaSuccess) 
   {
      fprintf(stderr,"GPUassert: %s %s %d\n", cudaGetErrorString(code), file, line);
      if (abort) exit(code);
   }
}

/**********/
/* KERNEL */
/**********/
__global__ void moving_average(unsigned int *in, unsigned int *out, unsigned int N) {

    __shared__ unsigned int temp[BLOCKSIZE + 2 * RADIUS];

    unsigned int gindexx = threadIdx.x + blockIdx.x * blockDim.x;

    unsigned int lindexx = threadIdx.x + RADIUS;

    // --- Read input elements into shared memory
    temp[lindexx] = (gindexx < N)? in[gindexx] : 0;
    if (threadIdx.x < RADIUS) {
        temp[threadIdx.x] = (((gindexx - RADIUS) >= 0)&&(gindexx <= N)) ? in[gindexx - RADIUS] : 0;
        temp[threadIdx.x + (RADIUS + BLOCKSIZE)] = ((gindexx + BLOCKSIZE) < N)? in[gindexx + BLOCKSIZE] : 0;
    }

    __syncthreads();

    // --- Apply the stencil
    unsigned int result = 0;
    for (int offset = -RADIUS ; offset <= RADIUS ; offset++) {
        result += temp[lindexx + offset];
    }

    // --- Store the result
    out[gindexx] = result;
}

/********/
/* MAIN */
/********/
int main() {

    const unsigned int N        = 55 + 2 * RADIUS;

    const unsigned int constant = 4;

    thrust::device_vector<unsigned int> d_in(N, constant);
    thrust::device_vector<unsigned int> d_out(N);

    moving_average<<<iDivUp(N, BLOCKSIZE), BLOCKSIZE>>>(thrust::raw_pointer_cast(d_in.data()), thrust::raw_pointer_cast(d_out.data()), N);
    gpuErrchk(cudaPeekAtLastError());
    gpuErrchk(cudaDeviceSynchronize());

    thrust::host_vector<unsigned int> h_out = d_out;

    for (int i=0; i<N; i++)
        printf("Element i = %i; h_out = %i\n", i, h_out[i]);

    return 0;

}

Answer 3

已经有了很好的答案，但要关注引起混淆的实际观点：

在C中（不仅在CUDA中，而且在C中），当您使用[方括号]访问“数组”时，实际上是在进行指针算术 。

例如，考虑这样的指针：

int* data= ... // Points to some memory

然后你写一个像这样的语句

data[3] = 42;

您只是访问“原始data指针后面的三个条目”的内存位置。 所以你也可以写

int* data= ... // Points to some memory
int* dataWithOffset = data+3;
dataWithOffset[0] = 42; // This will write into data[3] 

因此，

dataWithOffset[-3] = 123; // This will write into data[0]

---

_{事实上，你可以说data[i]与*(data+i)相同，它与*(i+data)相同，而*(i+data)又与i[data]相同，但你不应该在实际程序中使用它...）}

Answer 4

我可以编译@ JackOLantern的代码，但是有一个警告：“无符号整数与零的无意义比较”：

并且在运行时，它将中止如下：

我已将代码修改为以下内容，警告消失，并且可以得到正确的结果：

 #include <thrust/device_vector.h> #define RADIUS 3 #define BLOCKSIZE 32 /*******************/ /* iDivUp FUNCTION */ /*******************/ int iDivUp(int a, int b){ return ((a % b) != 0) ? (a / b + 1) : (a / b); } /********************/ /* CUDA ERROR CHECK */ /********************/ #define gpuErrchk(ans) { gpuAssert((ans), __FILE__, __LINE__); } inline void gpuAssert(cudaError_t code, const char *file, int line, bool abort=true) { if (code != cudaSuccess) { fprintf(stderr,"GPUassert: %s %s %d\\n", cudaGetErrorString(code), file, line); if (abort) exit(code); } } /**********/ /* KERNEL */ /**********/ __global__ void moving_average(unsigned int *in, unsigned int *out, int N) { __shared__ unsigned int temp[BLOCKSIZE + 2 * RADIUS]; int gindexx = threadIdx.x + blockIdx.x * blockDim.x; int lindexx = threadIdx.x + RADIUS; // --- Read input elements into shared memory temp[lindexx] = (gindexx < N)? in[gindexx] : 0; if (threadIdx.x < RADIUS) { temp[threadIdx.x] = (((gindexx - RADIUS) >= 0)&&(gindexx <= N)) ? in[gindexx - RADIUS] : 0; temp[threadIdx.x + (RADIUS + BLOCKSIZE)] = ((gindexx + BLOCKSIZE) < N)? in[gindexx + BLOCKSIZE] : 0; } __syncthreads(); // --- Apply the stencil unsigned int result = 0; for (int offset = -RADIUS ; offset <= RADIUS ; offset++) { result += temp[lindexx + offset]; } // --- Store the result out[gindexx] = result; } /********/ /* MAIN */ /********/ int main() { const int N = 55 + 2 * RADIUS; const unsigned int constant = 4; thrust::device_vector<unsigned int> d_in(N, constant); thrust::device_vector<unsigned int> d_out(N); moving_average<<<iDivUp(N, BLOCKSIZE), BLOCKSIZE>>>(thrust::raw_pointer_cast(d_in.data()), thrust::raw_pointer_cast(d_out.data()), N); gpuErrchk(cudaPeekAtLastError()); gpuErrchk(cudaDeviceSynchronize()); thrust::host_vector<unsigned int> h_out = d_out; for (int i=0; i<N; i++) printf("Element i = %i; h_out = %i\\n", i, h_out[i]); return 0; } 

结果是这样的：