[英]incomprehensible performance improvement with openmp even when num_threads(1)
以下代码行
int nrows = 4096;
int ncols = 4096;
size_t numel = nrows * ncols;
unsigned char *buff = (unsigned char *) malloc( numel );
unsigned char *pbuff = buff;
#pragma omp parallel for schedule(static), firstprivate(pbuff, nrows, ncols), num_threads(1)
for (int i=0; i<nrows; i++)
{
for (int j=0; j<ncols; j++)
{
*pbuff += 1;
pbuff++;
}
}
编译时需要11130个usecs在我的i5-3230M上运行
g++ -o main main.cpp -std=c++0x -O3
也就是说,当openmp编译指示被忽略时。
另一方面,使用
g++ -o main main.cpp -std=c++0x -O3 -fopenmp
这快了6倍以上,考虑到它是在2核计算机上运行的,这非常令人惊讶。 实际上,我也用num_threads(1)对其进行了测试,并且性能提升仍然非常重要(快3倍以上)。
有人可以帮助我了解这种行为吗?
编辑:按照建议,我提供完整的代码:
#include <stdlib.h>
#include <iostream>
#include <chrono>
#include <cassert>
int nrows = 4096;
int ncols = 4096;
size_t numel = nrows * ncols;
unsigned char * buff;
void func()
{
unsigned char *pbuff = buff;
#pragma omp parallel for schedule(static), firstprivate(pbuff, nrows, ncols), num_threads(1)
for (int i=0; i<nrows; i++)
{
for (int j=0; j<ncols; j++)
{
*pbuff += 1;
pbuff++;
}
}
}
int main()
{
// alloc & initializacion
buff = (unsigned char *) malloc( numel );
assert(buff != NULL);
for(int k=0; k<numel; k++)
buff[k] = 0;
//
std::chrono::high_resolution_clock::time_point begin;
std::chrono::high_resolution_clock::time_point end;
begin = std::chrono::high_resolution_clock::now();
//
for(int k=0; k<100; k++)
func();
//
end = std::chrono::high_resolution_clock::now();
auto usec = std::chrono::duration_cast<std::chrono::microseconds>(end-begin).count();
std::cout << "func average running time: " << usec/100 << " usecs" << std::endl;
return 0;
}
事实证明,答案是firstprivate(pbuff, nrows, ncols)
有效地将pbuff
, nrows
和ncols
声明为for循环范围内的局部变量。 反过来,这意味着编译器可以将nrows
和ncols
视为常量-它不能对全局变量做出相同的假设!
因此,使用-fopenmp
会导致巨大的加速,因为您不必每次迭代都访问全局变量 。 (此外,使用恒定的ncols
值,编译器可以进行一些循环展开)。
通过改变
int nrows = 4096;
int ncols = 4096;
至
const int nrows = 4096;
const int ncols = 4096;
或通过更改
for (int i=0; i<nrows; i++)
{
for (int j=0; j<ncols; j++)
{
*pbuff += 1;
pbuff++;
}
}
至
int _nrows = nrows;
int _ncols = ncols;
for (int i=0; i<_nrows; i++)
{
for (int j=0; j<_ncols; j++)
{
*pbuff += 1;
pbuff++;
}
}
异常加速消失-非OpenMP代码现在与OpenMP代码一样快。
这个故事的主旨? 避免在性能关键的循环中访问可变的全局变量。
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.