模拟AVX-512掩码指令

Question

根据文档，从AVX-512指令集上的gcc 4.9开始支持，但是我有gcc 4.8 。 我目前有类似这样的代码来汇总一个内存块（保证少于256个字节，因此不会有溢出的烦恼）：

__mm128i sum = _mm_add_epi16(sum, _mm_cvtepu8_epi16(*(__m128i *) &mem));

现在，浏览文档，如果剩下四个字节，我可以使用：

__mm128i sum = _mm_add_epi16(sum,
                             _mm_mask_cvtepu8_epi16(_mm_set1_epi16(0),
                                                    (__mmask8)_mm_set_epi16(0,0,0,0,1,1,1,1),
                                                    *(__m128i *) &mem));

（请注意，我找不到的任何地方都没有记录__mmask8的类型，所以我想...）

但是， _mm_mask_cvtepu8_epi16是AVX-512指令，因此有没有办法重复此操作？ 我试过了：

mm_mullo_epi16(_mm_set_epi16(0,0,0,0,1,1,1,1),
               _mm_cvtepu8_epi16(*(__m128i *) &mem));

但是，有一个缓存停顿，因此直接for (int i = 0; i < remaining_bytes; i++) sum += mem[i]; 表现更好

Answer 1

当我偶然发现这个问题时，如果仍然存在问题，它仍然没有答案...

对于示例问题，您处于正确的轨道。

• 乘法是一个相对较慢的操作，因此应避免使用_mm_mullo_epi16 。 使用_mm_and_si128代替按位AND运算要快得多，例如_mm_and_si128(_mm_cvtepu8_epi16(*(__m128i *) &mem), _mm_set_epi32(0, 0, -1, -1))
• 我不确定您所说的缓存停顿是什么意思，但是如果内存访问是一个瓶颈，并且编译器不会将上述常量放入寄存器中，则可以使用_mm_srli_si128(vector, 8)类的东西不需要任何额外的寄存器/内存加载。 移位可能比AND慢。
• 如果始终为8个字节，则可以使用_mm_move_epi64
• 如果剩余数量不是固定数量的元素（例如，对于任意n您有n%16个字节），则以上方法都无法解决。 请注意，AVX-512也无法真正解决它。 如果需要处理这种情况，则可以有一个掩码表，并根据剩余的值进行_mm_and_si128(vector, masks[n & 0xf])例如_mm_and_si128(vector, masks[n & 0xf])
• （ _mm_mask_cvtepu8_epi16只关心向量的下半部分，因此您的示例有些混乱-也就是说，您不需要掩盖任何东西，因为稍后的元素将被完全忽略）

从更一般的_mm_blend_epi16 ，遮罩操作实际上只是嵌入式_mm_blend_epi16 （或等效方法）。 对于调零惯用语，可以使用_mm_and_si128 / _mm_andnot_si128轻松模拟_mm_andnot_si128 ，如上所示。