将寄存器导出到堆栈会对性能产生什么影响？

Question

我正在研究一些旨在在32位模式下的x86上运行的代码。 在那种模式下，我了解到我只有8个SIMD / AVX2寄存器（YMM0-7）可自由使用。 但是，有时我的某些向量子例程有时会同时使用超过该数量的寄存器（这意味着在将来的某个地方仍需要使用它们-大部分在此之后不需要）。

我的理解是，当编译器找不到未使用的寄存器时，它们会将较旧的寄存器导出到堆栈内存中 。 但是，这对性能有多大影响？ （例如，以后每次导出/导入的周期数）。 我是否可以信任大多数驻留在L1-D-Cache中的堆栈存储器（在Haswell中有2个周期的延迟），还是避免这种寄存器到内存的传输（反之亦然）会对性能产生重大影响？

到目前为止，我无法找到该主题的答案，尤其是因为寄存器越来越大（在即将推出的Skylake平台上，每个寄存器有1个Cacheline）。 如果您能提供资料以防万一，那将是很好的。

Answer 1

命中内存始终会受到影响。

写入通常很慢。 但是，如果仅命中L1高速缓存，它几乎是瞬时的（几乎与将寄存器复制到另一个寄存器相同）。如果命中L2或L3，则速度较慢，但​​仍然非常快。 如果达到实际内存，则“死机”速度将变慢（相比之下。）因此，如果您的L1缓存为12Kb，则堆栈上最多可以有12Kb的数据，并且仍能非常快地工作（尽管请记住，缓存在数据之间共享）以及您正在运行的代码；可能是6Kb的指令缓存和6Kb的数据（包括堆栈）。）

您遇到的主要问题是要处理多少内存。 如果您的输入数据非常大，那么影响最大。 尤其是如果您无法以流式方式加载输入数据，而处理器已针对流式方式进行了优化。 （从（eax）读取X个字节，执行eax + X，然后重复）。

请注意，如果必须使用汇编器编写它，则必须完成编译器可以为您完成的所有工作，且零错误且完全优化。 今天的编译器确实擅长优化（gcc / g ++）。 当您按堆栈时，更改堆栈上当前所有局部变量的偏移量时，这会变得特别复杂（除非您使用帧指针。）

另一个细节是，编译器将堆栈看作是根据函数中所有必需的局部变量的集合定义的结构。 因此，访问堆栈与访问结构非常相似。