AVX-512中的1-to-4廣播和4-to-1壓縮

Question

我需要執行以下兩項操作：

float x[4];
float y[16];

// 1-to-4 broadcast
for ( int i = 0; i < 16; ++i )
    y[i] = x[i / 4];

// 4-to-1 reduce-add
for ( int i = 0; i < 16; ++i )
    x[i / 4] += y[i];

什么是有效的AVX-512實現？

Answer 1

對於reduce-add，只需進行vmovshdup改組並添加（ vmovshdup / vaddps / vpermilps imm8 / vaddps ），就像在x86上進行水平浮點矢量和的最快方法一樣， 以在每個128位通道中獲取水平和，然后vpermps將所需的元素vpermps到底部。 或使用帶有恆定掩碼的vcompressps做相同的事情，還可以選擇使用內存目標。

打包成單個向量后，您將擁有一個普通的SIMD 128位加法。

如果您的數組實際上大於16，則可以使用vpermt2ps而不是vpermps從兩個源向量中的每一個獲取第4個元素，從而將+=部分用於x[] 256位向量。 （或者再次與另一個改組合並為512位向量，但這可能會成為SKX上改組吞吐量的瓶頸）。

在SKX上， vpermt2ps僅為單個uop，吞吐量為1c /延遲為3c，因此對於其強大功能而言非常有效。 在KNL上，它的吞吐量為2c，比vpermps差，但也許仍然值得。 （KNL沒有AVX512VL，但是如果需要，您（或編譯器）可以將256位向量添加到x[] ，然后使用AVX1 vaddps ymm 。）

有關說明表，請參見https://agner.org/optimize/ 。

---

對於負載：

這是在循環內完成還是反復進行？ （即，您可以將隨機控制向量保存在寄存器中嗎？如果可以，則可以

• 使用VBROADCASTF32X4 （用於加載端口的單個VBROADCASTF32X4執行128-> 512廣播。
• 用vpermilps zmm,zmm,zmm進行車道內混洗vpermilps zmm,zmm,zmm以在每個128位通道中廣播不同的元素。 （必須與廣播負載分開，因為內存源vpermilps可以具有m512或m32bcst源。（指令通常具有其內存廣播粒度=元素大小，不幸的是，在某些情況下，這樣的情況根本沒有） vpermilps將控制向量作為內存操作數，而不是源數據。）

這是略好於vpermps zmm,zmm,zmm因為洗牌有1周周期的延遲，而不是3（在SKYLAKE微架構-avx512）。

即使在循環之外，加載隨機播放控制向量仍可能是您最好的選擇。