缓存未命中？ 我怎么能看到呢？

Question

给定以下代码：

for (int i=0; i<n; i++)
{
  counter += myArray[i];
}

和循环展开版本：

for (int i=0; i<n; i+=4)
{
  counter1 += myArray[i+0];
  counter2 += myArray[i+1];
  counter3 += myArray[i+2];
  counter4 += myArray[i+3];
}

total = counter1+ counter2 + counter3+ counter4;

1. 为什么我们在第一个版本中会出现缓存未命中？
2. 第二个版本确实比第一个版本有更好的性能吗？ 为什么？

问候

Answer 1

为什么我们在第一个版本中会出现缓存未命中？

正如 Oli 在评论中指出的那样。 这个问题是没有根据的。 如果数据已经在缓存中，则不会有缓存未命中。

除此之外，您的两个示例之间的 memory 访问没有区别。 因此，这不太可能成为它们之间任何性能差异的因素。

第二个版本确实比第一个版本有更好的性能吗？ 为什么？

通常，要做的是实际测量。 但在这个特定示例中，我会说它可能会更快。 不是因为更好的缓存访问，而是因为循环展开。

您正在进行的优化称为“节点拆分”，您可以在其中分离counter变量以打破依赖链。

但是，在这种情况下，您正在执行一个简单的归约操作。 许多现代编译器都能够识别这种模式并为您进行节点拆分。

那么它更快吗？ 最有可能的。 但是你应该检查编译器是否为你做了。

---

作为记录：我刚刚在 Visual Studio 2010 上对此进行了测试。
我很惊讶它无法进行这种优化。

; 129  : 
; 130  :     int counter = 0;
; 131  : 
; 132  :     for (int i=0; i<n; i++)
    mov ecx, DWORD PTR n$[rsp]
    xor edx, edx
    test    ecx, ecx
    jle SHORT $LN1@main
$LL3@main:

; 133  :     {
; 134  :         counter += myArray[i];

    add edx, DWORD PTR [rax]
    add rax, 4
    dec rcx
    jne SHORT $LL3@main
$LN1@main:

; 135  :     }

Visual Studio 2010 似乎无法为这个（简单的）示例执行“节点拆分”......