矢量化 - 加速SSE，AVX和AVX2的预期

Question

我正在使用以下处理器i7对MacOS上的矢量化进行基准测试：

$ sysctl -n machdep.cpu.brand_string

Intel(R) Core(TM) i7-4960HQ CPU @ 2.60GHz

我的MacBook Pro是2014年中期。

我尝试使用不同的标志选项进行矢量化：我感兴趣的3个是SSE，AVX和AVX2。

对于我的基准测试，我添加了2个数组的每个元素并将总和存储在第三个数组中。

我必须让你注意到我正在为这些数组使用double类型。

以下是我的基准代码中使用的函数：

1 *）首先使用SSE矢量化：

#ifdef SSE
#include <x86intrin.h>
#define ALIGN 16
void addition_tab(int size, double *a, double *b, double *c)
{

 int i;
 // Main loop
 for (i=size-1; i>=0; i-=2)
 {
  // Intrinsic SSE syntax
  const __m128d x = _mm_load_pd(a); // Load two x elements
  const __m128d y = _mm_load_pd(b); // Load two y elements
  const __m128d sum = _mm_add_pd(x, y); // Compute two sum elements
  _mm_store_pd(c, sum); // Store two sum elements

  // Increment pointers by 2 since SSE vectorizes on 128 bits = 16 bytes = 2*sizeof(double)
  a += 2;
  b += 2;
  c += 2;
 }

}
#endif

2 *）第二次使用AVX256矢量化：

#ifdef AVX256
#include <immintrin.h>
#define ALIGN 32
void addition_tab(int size, double *a, double *b, double *c)
{

 int i;
 // Main loop
 for (i=size-1; i>=0; i-=4)
 {
  // Intrinsic AVX syntax
  const __m256d x = _mm256_load_pd(a); // Load two x elements
  const __m256d y = _mm256_load_pd(b); // Load two y elements
  const __m256d sum = _mm256_add_pd(x, y); // Compute two sum elements
  _mm256_store_pd(c, sum); // Store two sum elements

  // Increment pointers by 4 since AVX256 vectorizes on 256 bits = 32 bytes = 4*sizeof(double)
  a += 4;
  b += 4;
  c += 4;
 }

}
#endif

对于SSE矢量化，我期望加速等于2左右，因为我在128位= 16字节= 2 * sizeof（双精度）上对齐数据。

我在SSE矢量化的结果中得到的结果如下图所示：

所以，我认为这些结果是有效的，因为SpeedUp是因子2。

现在对于AVX256，我得到下图：

对于AVX256矢量化，我希望Speedup等于4，因为我在256bits = 32字节= 4 * sizeof（double）上对齐数据。

但正如你所看到的，我仍然得到一个factor 2而不是4的SpeedUp。

我不明白为什么我用SSE和AVX矢量化获得相同的Speedup结果。

它来自我的处理器模型的“编译标志”......我不知道。

以下是我为上述所有结果所做的编译命令行：

对于SSE：

gcc-mp-4.9 -DSSE -O3 -msse main_benchmark.c -o vectorizedExe

对于AVX256：

gcc-mp-4.9 -DAVX256 -O3 -Wa,-q -mavx main_benchmark.c -o vectorizedExe

而且，使用我的处理器模型，我可以使用AVX512矢量化吗？ （一旦这个问题的问题将得到解决）。

谢谢你的帮助

更新1

我尝试了@Mischa的不同选项，但仍无法使用AVX标志和选项获得加速因子4。 您可以在http://example.com/test_vectorization/main_benchmark.c.txt上查看我的C源代码（扩展名为.txt，以便直接浏览到浏览器），用于基准测试的shell脚本是http://example.com / test_vectorization / run_benchmark 。

正如所说的@Mischa，我尝试应用以下命令行进行编译：

$ GCC -O3 -Wa，-q -mavx -fprefetch-loop-arrays main_benchmark.c -o vectorizedExe

但生成的代码没有AVX指令。

如果你能看一下这些文件，那就太好了。 谢谢。

Answer 1

你正在进行缓存 - > ram传输。 您的core7有一个64字节的缓存行。 对于sse2,16字节存储需要64字节加载，更新和队列返回ram。 按升序排列的16字节加载受益于自动预取预测，因此您可以获得一些负载优势。 添加目标内存的mm_prefetch; 比如，在下一个商店之前的256字节。 同样适用于avx2 32字节存储。

Answer 2

NP。 有选择：

（1）x86特定代码：

#include <emmintrin.h> ... for (int i=size; ...) { _mm_prefetch(256+(char*)c, _MM_HINT_T0); ... _mm256_store_pd(c, sum);

（2）gcc特定代码： for (int i=size; ...) { __builtin_prefetch(c+32); ... for (int i=size; ...) { __builtin_prefetch(c+32); ...

（3） gcc -fprefetch-array-loops ---编译器最了解。

（3）如果你的gcc版本支持它是最好的。 如果你在相同的硬件上编译和运行，那么（2）是次佳的。 （1）可移植到其他编译器。

不幸的是，“256”是一种猜测，并且依赖于硬件。 128是最小值，512最大值，具体取决于您的CPU：RAM速度。 如果切换到_mm512*() ， _mm512*()这些数字加倍。

如果您正在处理各种处理器，我可以建议以涵盖所有情况的方式进行编译，然后测试cpuid（ax = 0）> = 7，然后cpuid（ax = 7，cx = 0）：bx＆0x04000010 at运行时（AVX2为0x10，AVX512为包含预取的为0x04000000）。

顺便说一句，如果您使用gcc并指定-mavx或-msse2，编译器会为您定义内置宏__AVX__或__SSE2__; 不需要-DAVX256。 为了支持过时的32位处理器，-m32遗憾地禁用了__SS​​E2__，因此有效地禁用了\\#include <emmintrin.h> :-P

HTH