OpenMP 中嵌套 for 的并行内循环问题

Question

我需要使用 OpenMP 并行化嵌套循环的内部。 他们我做的方式不工作正常。 每个线程应该迭代每个 M 点，但只迭代（在第二个循环中）它自己的坐标块。 所以我希望第一个循环从0到M到 go，第二个循环从my_first_coord到my_last_coord 。 在我发布的代码中，程序启动时有 4 个线程比启动时有 8 个线程更快，所以有一些问题。 我知道一种方法是“手动”划分坐标，这意味着每个线程都有自己的num_of_coords / thread_count （并考虑余数），我用 Pthread 做到了。 我更愿意在 OpenMP 中使用编译指示。 我确定我错过了什么。 让我给你看代码

#pragma omp parallel
... 
    for (int i = 0; i < M; i++) { //All iterate from i to M
#       pragma omp for nowait
        for (int coord = 0; coord < N; coord++) { //each works on its portion of coords

            centroids[points[i].cluster].accumulator.coordinates[coord] += points[i].coordinates[coord];
        }
    }

我也放了 Pthread 版本，这样你就不会误解我想要实现的，但是使用 pragmas

/*M is global, 
first_nn and last_nn are local*/
        for (long i = 0; i < M; i++)
            for(long coord = first_nn; coord <= last_nn; coord++) 
            centroids[points[i].cluster].accumulator.coordinates[coord] += points[i].coordinates[coord];

我希望它足够清楚。 谢谢

编辑：我正在使用 gcc 12.2.0。 通过添加-O3标志，时间得到了改善。 对于较大的输入，4 和 8 线程之间的加速差异更为显着。

Answer 1

您的评论表明您担心加速。

1. 您的处理器有多少个物理内核？ 尝试从 1 到该数字的每个线程数。
2. 不要使用超线程
3. 您可能会发现低线程数的加速效果很好，但效果趋于平稳：那是因为您有一个“流”操作，它受带宽限制。 除非你有一个非常昂贵的处理器，否则没有足够的带宽来保持所有内核快速运行。
4. 您可以尝试设置OMP_PROC_BIND=true以防止操作系统迁移您的线程。 这可以提高缓存使用率。
5. 您对i变量进行了某种间接寻址，因此与 TLB 相关的进一步 memory 效应可能会使您的并行代码无法最佳扩展。

但从第 3 点开始并报告。

Answer 2

由于评论，我解决了我的问题。