在 `C` 函数中定义一个 `static const` SIMD 变量

Question

我有一个这种形式的函数（来自使用 SSE 的指数函数的最快实现）：

__m128 FastExpSse(__m128 x)
{
    static __m128  const a   = _mm_set1_ps(12102203.2f); // (1 << 23) / ln(2)
    static __m128i const b   = _mm_set1_epi32(127 * (1 << 23) - 486411);
    static __m128  const m87 = _mm_set1_ps(-87);
    // fast exponential function, x should be in [-87, 87]
    __m128 mask = _mm_cmpge_ps(x, m87);

    __m128i tmp = _mm_add_epi32(_mm_cvtps_epi32(_mm_mul_ps(a, x)), b);
    return _mm_and_ps(_mm_castsi128_ps(tmp), mask);
}

我想让它与C兼容。
然而编译器不接受static __m128i const b = _mm_set1_epi32(127 * (1 << 23) - 486411); 当我使用C编译器时。

但是我不希望在每个函数调用中重新计算前 3 个值。
一种解决方案是内联它（但有时编译器会拒绝）。

如果函数没有内联，是否有C风格来实现它？

谢谢你。

Answer 1

删除static和const 。

还将它们从 C++ 版本中删除。 const ，但static很糟糕，引入了每次检查的保护变量，并且第一次初始化非常昂贵。

__m128 a = _mm_set1_ps(12102203.2f); 不是函数调用，它只是表达向量常量的一种方式。 “只做一次”不能节省时间——它通常发生零次，常量向量在程序的数据段中准备好并在运行时简单地加载，没有static引入的垃圾。

检查 asm 以确保，如果没有static ，就会发生这种情况：（来自 Godbolt ）

FastExpSse(float __vector(4)):
        movaps  xmm1, XMMWORD PTR .LC0[rip]
        cmpleps xmm1, xmm0
        mulps   xmm0, XMMWORD PTR .LC1[rip]
        cvtps2dq        xmm0, xmm0
        paddd   xmm0, XMMWORD PTR .LC2[rip]
        andps   xmm0, xmm1
        ret
.LC0:
        .long   3266183168
        .long   3266183168
        .long   3266183168
        .long   3266183168
.LC1:
        .long   1262004795
        .long   1262004795
        .long   1262004795
        .long   1262004795
.LC2:
        .long   1064866805
        .long   1064866805
        .long   1064866805
        .long   1064866805

Answer 2

_mm_set1_ps(-87); 或任何其他_mm_set内在函数都不是当前编译器的有效静态初始值设定项，因为它不被视为常量表达式。

在 C++ 中，它编译为static存储位置的运行时初始化（从其他地方的向量文字复制）。 如果它是一个函数内的static __m128 ，则有一个保护变量来保护它。

在 C 中，它只是拒绝编译，因为 C 不支持非常量初始化器/构造器。 _mm_set不像@benjarobin 的回答显示的底层 GNU C 本机向量的支撑初始化程序。

---

这真的很愚蠢，而且似乎是所有 4 个主流 x86 C++ 编译器 (gcc/clang/ICC/MSVC) 中的一个遗漏优化。 即使每个static const __m128 var都有一个不同的地址很重要，编译器也可以通过使用初始化的只读存储而不是在运行时复制来实现这一点。

因此，即使启用了优化，常量传播似乎也无法将_mm_set变成常量初始值设定项。

---

永远不要使用static const __m128 var = _mm_set...即使在 C++ 中； 这是低效的。

函数内部更糟糕，但全局作用域仍然很糟糕。

相反，避免使用static 。 您仍然可以使用const来阻止自己意外分配其他内容，并告诉人类读者这是一个常量。 没有static ，它对变量的存储位置/方式没有影响。 自动存储上的const只是在编译时检查您没有修改对象。

const __m128 var = _mm_set1_ps(-87);    // not static

编译器在这方面很擅长，并且会优化多个函数使用相同向量常量的情况，就像它们去重字符串文字并将它们放在只读内存中一样。

在小辅助函数中以这种方式定义常量是好的：编译器将在内联函数后将常量设置提升到循环之外。

它还允许编译器优化掉全部 16 字节的存储空间，并使用vbroadcastss xmm0, dword [mem]或类似内容加载它。

Answer 3

此解决方案显然不可移植，它适用于 GCC 8（仅使用此编译器测试）：

#include <stdio.h>
#include <stdint.h>
#include <emmintrin.h>
#include <string.h>

#define INIT_M128(vFloat)  {(vFloat), (vFloat), (vFloat), (vFloat)}
#define INIT_M128I(vU32)   {((uint64_t)(vU32) | (uint64_t)(vU32) << 32u), ((uint64_t)(vU32) | (uint64_t)(vU32) << 32u)}

static void print128(const void *p)
{
    unsigned char buf[16];

    memcpy(buf, p, 16);
    for (int i = 0; i < 16; ++i)
    {
        printf("%02X ", buf[i]);
    }
    printf("\n");
}

int main(void)
{
    static __m128  const glob_a = INIT_M128(12102203.2f);
    static __m128i const glob_b = INIT_M128I(127 * (1 << 23) - 486411);
    static __m128  const glob_m87 = INIT_M128(-87.0f);

    __m128  a   = _mm_set1_ps(12102203.2f); 
    __m128i b   = _mm_set1_epi32(127 * (1 << 23) - 486411);
    __m128  m87 = _mm_set1_ps(-87);

    print128(&a);
    print128(&glob_a);

    print128(&b);
    print128(&glob_b);

    print128(&m87);
    print128(&glob_m87);

    return 0;
}

正如@harold 的回答中所解释的（仅在 C 中），以下代码（使用或不使用WITHSTATIC构建）生成完全相同的代码。

#include <stdio.h>
#include <stdint.h>
#include <emmintrin.h>
#include <string.h>

#define INIT_M128(vFloat)  {(vFloat), (vFloat), (vFloat), (vFloat)}
#define INIT_M128I(vU32)   {((uint64_t)(vU32) | (uint64_t)(vU32) << 32u), ((uint64_t)(vU32) | (uint64_t)(vU32) << 32u)}

__m128 FastExpSse2(__m128 x)
{
#ifdef WITHSTATIC
    static __m128  const a = INIT_M128(12102203.2f);
    static __m128i const b = INIT_M128I(127 * (1 << 23) - 486411);
    static __m128  const m87 = INIT_M128(-87.0f);
#else
    __m128  a   = _mm_set1_ps(12102203.2f);
    __m128i b   = _mm_set1_epi32(127 * (1 << 23) - 486411);
    __m128  m87 = _mm_set1_ps(-87);
#endif

    __m128 mask = _mm_cmpge_ps(x, m87);

    __m128i tmp = _mm_add_epi32(_mm_cvtps_epi32(_mm_mul_ps(a, x)), b);
    return _mm_and_ps(_mm_castsi128_ps(tmp), mask);
}

所以总而言之，最好删除static和const关键字（在 C++ 中更好更简单的代码，在 C 中代码是可移植的，因为我提出的 hack 代码并不是真正可移植的）