使用 GPU 进行并行 for 循环的最简单方法

Question

我目前有一个与此类似的并行 for 循环：

int testValues[16]={5,2,2,10,4,4,2,100,5,2,4,3,29,4,1,52};
parallel_for (1, 100, 1, [&](int i){ 
    int var4;
    int values[16]={-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1,-1};
    /* ...nested for loops */
        for (var4=0; var4<16; var4++) {
            if (values[var4] != testValues[var4]) break;
        }
    /* ...end nested loops */
}

我已经尽可能多地进行优化，以至于我唯一能做的就是添加更多资源。

我有兴趣利用 GPU 来帮助并行处理任务。 我读过像这样的令人尴尬的并行任务可以非常有效地利用现代 GPU。

使用任何语言，将 GPU 用于像这样的简单并行 for 循环的最简单方法是什么？

我对 GPU 架构或本机 GPU 代码一无所知。

Answer 1

正如 Li-aung Yip 在评论中所说，使用 GPU 的最简单方法是使用支持数组操作的 Matlab 之类的东西，并自动（或多或少）将它们移动到 GPU。但要使其工作，您需要将代码重写为纯基于矩阵的操作。

否则，大多数 GPU 使用仍然需要在 CUDA 或 OpenCL 中编码（您需要将 OpenCL 与 AMD 卡一起使用）。 即使您使用自己喜欢的语言的包装器，在 GPU 上运行的实际代码仍然通常是用 OpenCL（看起来有点像 C）编写的。 因此，这需要大量的学习/努力。 您可以从从 AMD 下载 OpenCL 并阅读文档开始……

我怀疑这两种选择都需要学习新思想。 我认为，您真正想要的是针对 gpu 的高级但看起来仍然很传统的语言。不幸的是，它们似乎还不多。 我能想到的唯一例子是theano——你可以试试。 即使在那里，你仍然需要学习 python/numpy，而且我不确定 theano 实现有多可靠，但这可能是最不痛苦的前进方式（因为它允许“传统”方法——在很多方面使用矩阵更容易，但有些人似乎发现这在概念上很难理解）。

ps 顺便说一句，我不清楚 gpu 是否可以解决您的问题。

Answer 2

您可能想查看阵列火力。

http://www.accelereyes.com/products/arrayfire

如果使用 openCL，则需要为不同的设备供应商下载单独的实现，intel、AMD 和 Nvidia。

Answer 3

您可能想查看通过指令启用并行性的OpenACC 。 您可以将您的代码 (C/C++/Fortran) 移植到异构系统，同时维护在同构系统上仍然运行良好的源代码。 看看这个介绍视频。 OpenACC 不是 GPU 编程，而是将并行性表达到您的代码中，这可能有助于在不了解 CUDA 或 OpenCL 等低级语言的情况下实现性能提升。 OpenACC 可用于 PGI、Cray 和 CAPS 的商业编译器（PGI 为新用户提供 30 天免费试用）。