[英]OpenCL Kernel Executes Slower Than Single Thread
总之,我写了一个非常简单的OpenCL内核,它使用简单的平均将RGB图像转换为灰度。
一些背景:
clEnqueueMapBuffer
映射)并且为8 bpp clCreateBuffer
),一个是专门读取的(我们在内核启动之前clWriteBuffer
),另一个是专门写入的(在内核完成后我们clReadBuffer
) 我在1280x960图像上运行它。 该算法的串行版本平均为60ms,OpenCL内核平均为200ms! 我做错了什么,但我不知道如何继续,优化什么。 (在没有内核调用的情况下调整我的读/写,算法在15ms内运行)
我附加了内核设置(大小和参数)以及内核
编辑 :所以我写了一个偶数dumber内核,它内部没有全局内存访问,它只有150ms ...这仍然是非常慢的。 我想也许我搞乱全局内存读取,它们必须是4字节对齐或什么? 不...
编辑2:从我的内核中删除所有参数给了我显着的加速...我很困惑我认为因为我是clEnqueueWriteBuffer
内核应该没有从主机 - >设备和设备 - >主机进行内存传输。 ..
编辑3:想出来,但我仍然不明白为什么。 如果有人能解释,我很乐意给他们正确答案。 问题是按值传递自定义结构。 看起来我需要为它们分配一个全局内存位置并传递它们的cl_mem
内核调用:
//Copy input to device
result = clEnqueueWriteBuffer(handles->queue, d_input_data, CL_TRUE, 0, h_input.widthStep*h_input.height, (void *)input->imageData, 0, 0, 0);
if(check_result(result, "opencl_rgb_to_gray", "Failed to write to input buffer on device!")) return 0;
//Set kernel arguments
result = clSetKernelArg(handles->current_kernel, 0, sizeof(OpenCLImage), (void *)&h_input);
if(check_result(result, "opencl_rgb_to_gray", "Failed to set input struct.")) return 0;
result = clSetKernelArg(handles->current_kernel, 1, sizeof(cl_mem), (void *)&d_input_data);
if(check_result(result, "opencl_rgb_to_gray", "Failed to set input data.")) return 0;
result = clSetKernelArg(handles->current_kernel, 2, sizeof(OpenCLImage), (void *)&h_output);
if(check_result(result, "opencl_rgb_to_gray", "Failed to set output struct.")) return 0;
result = clSetKernelArg(handles->current_kernel, 3, sizeof(cl_mem), (void *)&d_output_data);
if(check_result(result, "opencl_rgb_to_gray", "Failed to set output data.")) return 0;
//Determine run parameters
global_work_size[0] = input->width;//(unsigned int)((input->width / (float)local_work_size[0]) + 0.5);
global_work_size[1] = input->height;//(unsigned int)((input->height/ (float)local_work_size[1]) + 0.5);
printf("Global Work Group Size: %d %d\n", global_work_size[0], global_work_size[1]);
//Call kernel
result = clEnqueueNDRangeKernel(handles->queue, handles->current_kernel, 2, 0, global_work_size, local_work_size, 0, 0, 0);
if(check_result(result, "opencl_rgb_to_gray", "Failed to run kernel!")) return 0;
result = clFinish(handles->queue);
if(check_result(result, "opencl_rgb_to_gray", "Failed to finish!")) return 0;
//Copy output
result = clEnqueueReadBuffer(handles->queue, d_output_data, CL_TRUE, 0, h_output.widthStep*h_output.height, (void *)output->imageData, 0, 0, 0);
if(check_result(result, "opencl_rgb_to_gray", "Failed to write to output buffer on device!")) return 0;
核心:
typedef struct OpenCLImage_t
{
int width;
int widthStep;
int height;
int channels;
} OpenCLImage;
__kernel void opencl_rgb_kernel(OpenCLImage input, __global unsigned char* input_data, OpenCLImage output, __global unsigned char * output_data)
{
int pixel_x = get_global_id(0);
int pixel_y = get_global_id(1);
unsigned char * cur_in_pixel, *cur_out_pixel;
float avg = 0;
cur_in_pixel = (unsigned char *)(input_data + pixel_y*input.widthStep + pixel_x * input.channels);
cur_out_pixel = (unsigned char *)(output_data + pixel_y*output.widthStep + pixel_x * output.channels);
avg += cur_in_pixel[0];
avg += cur_in_pixel[1];
avg+= cur_in_pixel[2];
avg /=3.0f;
if(avg > 255.0)
avg = 255.0;
else if(avg < 0)
avg = 0;
*cur_out_pixel = avg;
}
将值复制到将要创建的所有线程的开销可能是时间的可能原因; 对于全局存储器,在另一种情况下引用就足够了。 唯一的SDK实现者将能够准确回答.. :)
你可能想尝试像[64,1,1]这样的local_work_size来合并你的内存调用。 (注意64是1280的加法器)。
如前所述,您必须使用分析器才能获得更多信息。 你在使用nvidia卡吗? 然后下载CUDA 4(不是5),因为它包含一个openCL分析器。
你的表现必须远离最佳状态。 更改本地工作大小,全局工作大小,尝试每个胎面处理两个或四个像素。 你能改变像素的储存方式吗? 然后打破树形数组的结构,以便更有效地合并memomry访问。
使用GPU可以隐藏你的内存传输:使用你附近的探查器会更容易。
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.