如何使 msvc 矢量化浮点加法？

Question

我有这个代码：

constexpr size_t S = 4;
void add(std::array<float, S>& a, std::array<float, S> b)
{
    for (size_t i = 0; i < S; ++i)
        a[i] += b[i];
}

clang 和 gcc 都意识到，他们可以使用addps指令进行一次打包加法，而不是进行 4 次单次加法。 例如 clang 生成这个：

movups  xmm2, xmmword ptr [rdi]
movlhps xmm0, xmm1              # xmm0 = xmm0[0],xmm1[0]
addps   xmm0, xmm2
movups  xmmword ptr [rdi], xmm0
ret

正如您在Godbolt上看到的那样，gcc 比 clang 有点落后，因为它需要更多动作。 但这没关系。 我的问题是 msvc，如您所见，它更糟糕：

mov     eax, DWORD PTR _a$[esp-4]
movups  xmm2, XMMWORD PTR _b$[esp-4]
movss   xmm1, DWORD PTR [eax+4]
movaps  xmm0, xmm2
addss   xmm0, DWORD PTR [eax]
movss   DWORD PTR [eax], xmm0
movaps  xmm0, xmm2
shufps  xmm0, xmm2, 85                          ; 00000055H
addss   xmm1, xmm0
movaps  xmm0, xmm2
shufps  xmm0, xmm2, 170                   ; 000000aaH
shufps  xmm2, xmm2, 255                   ; 000000ffH
movss   DWORD PTR [eax+4], xmm1
movss   xmm1, DWORD PTR [eax+8]
addss   xmm1, xmm0
movss   xmm0, DWORD PTR [eax+12]
addss   xmm0, xmm2
movss   DWORD PTR [eax+8], xmm1
movss   DWORD PTR [eax+12], xmm0
ret     0

我尝试了不同的优化级别，但/O2似乎是最好的。 我也尝试手动展开循环，但 msvc 没有变化。

那么，有没有办法让 msvc 做同样的优化，使用一个addps而不是四个addss ？ 或者是否有一个很好的理由为什么 msvc 不这样做？

编辑

通过在评论中添加 Shawn 建议的/Qvec-report:2标志（谢谢。）我发现 msvc 认为循环太小而无法从矢量化中受益，Clang 和 gcc 有不同的意见。 但是好的，事实上，如果我将S更改为16 ，msvc 会提供一个矢量化版本，即使它仍然提供一个非矢量化分支（在我看来完全没有必要，因为S在编译时是已知的）。 一般来说，与 gcc 和 clang 相比，msvc 的代码看起来一团糟，请参见此处。

Answer 1

我已经测试了您在 Microsoft Visual Studio 2017 中发布的代码，它适用于我。 当我使用对齐和非别名参数调用您的 function add时，您的 function add编译到addps指令，而不是addss 。 也许您使用的是旧版本的 Visual Studio？

但是，通过故意给 function 非对齐或别名参数，我能够重现您的问题。 In order to accomplish this, I replaced the function parameters with C-style array pointers (because I don't know how exactly std::array is implemented) and deliberately called the function with aliased pointers, by making the two arrays overlap. 在这种情况下，生成的代码调用addss四次而不是addps一次。 故意传递未对齐的指针具有相同的效果。

这种行为也是有道理的。 为了使向量化有意义，编译器必须确保 arrays 不重叠并且它们正确对齐。 我相信 alignment 对 AVX 的问题比对 SSE 的问题要小。

当然，编译器必须能够在编译时而不是在运行时确定是否存在可能的别名或 alignment 问题。 因此，问题可能在于您调用 function 的方式是编译器在编译时无法确定参数是否有别名以及参数是否对齐。 编译器有时在确定这些事情时不是很聪明。 但是，正如您在评论部分指出的那样，由于您按值传递一个参数，编译器应该能够确定不存在重叠的危险。 因此，我的猜测是这是一个 alignment 问题，因为编译器在编译时不确定std:array的内容如何对齐。 由于我无法使用std::array重现您的问题，您可能希望发布有关如何调用 function 的代码。

您还可以通过显式调用指令addps的相应编译器内在_mm_add_ps来强制执行矢量化。