[英]Understanding SSE3 Matrix Multiplication Optimization
参考http://blogs.msdn.com/b/xiangfan/archive/2009/04/28/optimize-your-code-matrix-multiplication.aspx 。
template<>
void SeqMatrixMult4(int size, float** m1, float** m2, float** result)
{
Transpose(size, m2);
for (int i = 0; i < size; i++) {
for (int j = 0; j < size; j++) {
__m128 c = _mm_setzero_ps();
for (int k = 0; k < size; k += 4) {
c = _mm_add_ps(c, _mm_mul_ps(_mm_load_ps(&m1[i][k]), _mm_load_ps(&m2[j][k])));
}
c = _mm_hadd_ps(c, c);
c = _mm_hadd_ps(c, c);
_mm_store_ss(&result[i][j], c);
}
}
Transpose(size, m2);
}
为什么最里面的for循环之后还有2个_mm_hadd_ps(c, c)
? 为了验证我的理解:此代码从m1加载4个浮点,从m2加载另外4个浮点,然后将它们相乘得到4个浮点( __m128
)。 然后我将它们加到c
(此时,它还有4个浮点数?)。 然后在for循环之后,我hadd
结果hadd
两次? 那是做什么的?
我的代码被稍微重写了,导致出现错误的结果
long long start, end;
__m128 v1, v2, vMul, vRes;
vRes = _mm_setzero_ps();
start = wall_clock_time();
transpose_matrix(m2);
for (int i = 0; i < SIZE; i++) {
for (int j = 0; j < SIZE; j++) {
float tmp = 0;
for (int k = 0; k < SIZE; k+=4) {
v1 = _mm_load_ps(&m1[i][k]);
v2 = _mm_load_ps(&m2[j][k]);
vMul = _mm_mul_ps(v1, v2);
vRes = _mm_add_ps(vRes, vMul);
}
vRes = _mm_hadd_ps(vRes, vRes);
_mm_store_ss(&result[i][j], vRes);
}
}
end = wall_clock_time();
fprintf(stderr, "Optimized Matrix multiplication took %1.2f seconds\n", ((float)(end - start))/1000000000);
// reverse the transposition
transpose_matrix(m2);
haddps
不能将向量中的所有四个元素求和。 需要两个haddps
指令才能获得完整的水平和。
如果我们对向量{c0,c1,c2,c3}
的元素编号,则第一个haddps
会产生{c0+c1, c2+c3, c0+c1, c2+c3}
。 第二个产生{c0+c1+c2+c3, <same thing in the other lanes>}
。
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.