为什么循环顺序在大步预取时很重要？

Question

在C中，您被告知以行 - 主要顺序迭代矩阵，因为这是阵列存储在引擎盖下的方式，行主要迭代利用整个缓存行，这导致更少的缓存未命中。 事实上，我确实看到我的机器上的行主要和列主要迭代之间存在巨大的性能差异。 测试代码：

#include <stdio.h>
#include <stdlib.h>

#include <time.h>
#include <sys/resource.h>

int getTime()
{
  struct timespec tsi;

  clock_gettime(CLOCK_MONOTONIC, &tsi);
  double elaps_s = tsi.tv_sec;
  long elaps_ns = tsi.tv_nsec;
  return (int) ((elaps_s + ((double)elaps_ns) / 1.0e9) * 1.0e3);
}

#define N 1000000
#define M 100

void main()
{
  int *src = malloc(sizeof(int) * N * M);
  int **arr = malloc(sizeof(int*) * N);
  for(int i = 0; i < N; ++i)
    arr[i] = &src[i * M];

  for(int i = 0; i < N; ++i)
    for(int j = 0; j < M; ++j)
      arr[i][j] = 1;

  int total = 0;

  int pre = getTime();


  for(int j = 0; j < M; ++j)
    for(int i = 0; i < N; ++i)
      total += arr[i][j];

  /*
  for(int i = 0; i < N; ++i)
    for(int j = 0; j < M; ++j)
      total += arr[i][j];
  */

  int post = getTime();

  printf("Result: %d, took: %d ms\n", total, post - pre);
}

但是，现代存储系统具有可以预测跨步访问的预取程序，当您遍历列时，您遵循非常规则的模式。 这不应该允许列主要迭代执行与行主要迭代类似的操作吗？

Answer 1

高速缓存行具有特定大小（例如64字节），并且处理器读取和写入完整的高速缓存行。 比较处理的字节数和读取和写入的字节数。