放置 NOP 以确保 MIPS 汇编中没有 RAW 数据危害

Question

目前致力于理解 MIPS 体系结构和汇编语言，有人要求我在以下汇编代码中放置 NOP：

1 ADD R2,R1,R3
2 SW R3,0(R2)
3 ADD R4,R3,R2
4 LOOP: LW R8,2000(R4)
5 SUB R5,R4,R8
6 ORI R23,R8,370
7 ADD R19,R5,R8
8 LW R7,1000(R16)
9 SW R7,2000(R16)
10 LW R15,1000(R7)
11 SW R14,2000(R15)
12 SUBI R15,R15,99
13 AND R6,R14,R15
14 SLT R21,R11,R28
15 BEQ R21,R6,LOOP

我已经根据我被教导的方式放置了 NOP，并得到了这个：

1        ADD R2,R1,R3
            3 NOPs
2        SW R3,0(R2)
3        ADD R4,R3,R2
            3 NOPs
4        LOOP: LW R8,2000(R4)
              3 NOPs
5        SUB R5,R4,R8 
6        ORI R23,R8,370
            2 NOPs
7        ADD R19,R5,R8
8        LW R7,1000(R16)
            3 NOPs
9        SW R7,2000(R16)
10       LW R15,1000(R7)
            3 NOPs
11       SW R14,2000(R15) 
12       SUBI R15,R15,99 
            3 NOPs
13       AND R6,R14,R15 
14       SLT R21,R11,R28 
            3 NOPs
15       BEQ R21,R6,LOOP

这对我来说感觉很糟糕，我相信有一种方法可以减少 NOP，并且仍然可以处理这段代码中的所有 RAW 数据危害。

编辑：

在看到第 2 行和第 3 行没有依赖关系之后，我已经能够将 NOP 的数量减少 3 个，因为 SW 没有改变存储在 R3 中的值。

Answer 1

这对我来说感觉很糟糕，我相信有一种方法可以减少 NOP，并且仍然可以处理这段代码中的所有 RAW 数据危害。

在我看来，所有这些 NOP 都是必需的，因为解码一条指令后的 3 个周期是它在经典的 5 级 RISC中写回的时间。 这是另一条指令可以输入 ID 并从寄存器文件中读取值的周期，而无需对 RAW 危险进行任何特殊检测以设置旁路转发或停止流水线。

2 NOP 的情况看起来正确地放置在指令和使用其结果的指令之间有一个独立的指令。

指令使用前一个指令的结果是正常的，特别是如果它不是一个负载，这就是为什么真正的 CPU 需要避免必须像这样停止才能不吸。 例如，第一代商用 MIPS R2000 具有旁路转发功能，除了缓存未命中加载/存储或 mult / div 之外，没有任何停顿。 一条指令可以使用前一条指令的结果而不会受到惩罚。

它甚至不会因加载而停止，相反，软件必须遵守“加载延迟槽”，直到 1 条指令后才使用加载结果（否则无法保证您会看到旧的还是新的寄存器值，具体取决于缓存未命中。)，后来的 MIPS 修订版改变了这一点，因为编译器通常不能用 NOP 以外的任何东西填充它。 这会损害 I-cache 密度； 分支延迟槽是另一回事，它无法更改，但它是让经典 MIPS 隐藏分支延迟并且不需要分支预测的另一部分， 从 beq 的前半周期转发到beq的第二半周期中频阶段。

（此外，这段代码故意安排得很糟糕（尤其是在加载后立即存储），以便在分配的下一步中为您提供一些事情。它也完全是人为的，计算一些循环内未使用的结果，可以只是在之后完成（又名退出循环），或者像14 SLT R21,R11,R28那样在之前完成（提升），它不依赖于任何其他指令。但这会使调度“更难”，因为这些无用指令像 NOP 一样充当填充符。）

大概这个练习的目的是向您展示如果没有旁路转发，CPU 将有大量难以安排的停顿。 大多数情况下，只有高度展开（和软件流水线化）的循环才能将大部分周期用于工作而不是停滞不前。 https://en.wikipedia.org/wiki/Classic_RISC_pipeline#Solution_A._Bypassing

我似乎找不到通过重新安排来有效减少 NOP 数量的方法，我能够减少的最多是 5-6 个 NOP，这对我来说感觉还有很多工作要做。 如果您要重新安排我上面显示的 MIPS 汇编代码，您会怎么做？

有一些 WAW / WAR 危害会阻止重新排序； 如果我们可以使用不同的寄存器以及重新排序，那将开辟更多的可能性。 例如SUBI R15,R15,99可以减去一个临时的，所以它可以在SW R14,2000(R15)之前/同时完成。 或者商店可以在寻址模式中使用2099(R15)来抵消减法。 （有关此类优化的示例，请参阅如何在重新排序指令后以 mips 为单位展开点积循环？ ）。

我刚刚意识到我没有考虑在重新排序负载和存储时出现 memory 别名的可能性。 彼此。 例如，如果SW R7,2000(R16) / LW R15,1000(R7)可以重新加载该商店，稍后安排商店将改变程序。 让我们假装我们可以假设没有别名。

在查看依赖链并使用它来确定最早执行哪些指令之后（首先开始最长的依赖链）：

## Without considering memory aliasing, reordering some stores after loads.

1        ADD R2,R1,R3
            3 NOPs
3        ADD R4,R3,R2  # dep on 1 (R2).  R4 is read-only after this, in the loop
2        SW R3,0(R2)   # dep on 1 (R2)
            1 NOPs    # put this NOP outside the loop because 4 only needs to stall on the first iter.
    LOOP: 
8        LW R7,1000(R16)       # no deps on anything in the shown code
4        LW R8,2000(R4)     # dep on 3 (R4) before loop.  R8 is only written here.
14       SLT R21,R11,R28    # independent of everything.
              1 NOPs
10       LW R15,1000(R7)       # dep on 8 (R7)
5        SUB R5,R4,R8          # dep on 4 (R8).  (which also depends on the same R4 value from 3 we read)
9        SW R7,2000(R16)       # dep on 8 (R7).  R16 is read-only
6        ORI R23,R8,370        # dep on 4 (R8).  R23 is write-only
11       SW R14,2000(R15)      # dep on 10 (R15).  R14 is read-only
12       SUBI R15,R15,99       # dep on 10 (R15), WAR on 11
7        ADD R19,R5,R8         # dep on 5 (R5), and 4 (R8) indirectly via 5 as well as directly.  R19 is write-only
            2 NOPs
13       AND R6,R14,R15        # dep on 12 (R15).  R14 is read-only
            3 NOPs
15       BEQ R21,R6,LOOP       # dep on 14 (R21), 13 (R6)

循环内的 6 个 NOP，低于 17 个。（并且在循环之前也节省了 2 个 NOP，这有助于减少代码大小/I-cache 占用空间。）

这可能不是最佳的，但我没有看到任何更多的单一指令的移动可以节省任何东西。 将11 SW R14,2000(R15)转换为SW R14,2099(R15)将允许12 SUBI R15,R15,99地开始一个循环，并且商店可以填充循环尾部附近的一个摊位。 和/或subi进入不同的寄存器将允许 sub 首先运行，从而在不延长依赖链的情况下获得相同的好处。

涉及 R15 的依赖链： 8 LW R7,1000(R16) -> 10 LW R15, 1000(R7) -> 12 SUBI R15,R15,99 -> 13 AND R6,R14,R15 -> 15 BEQ R21,R6,LOOP . 使用11 SW R14,2000(R15)也在 SUBI 之前读取 R15 负载结果。

从4 LW R8,2000(R4)开始的 Dep 链：循环中没有任何内容写入 R4，因此该负载可以被提升到循环之外，除非其他一些指针为同一地址设置别名。 多个东西读取 R8，但只有负载写入它。 从对 R8 的解读中：

• 6 ORI R23,R8,370是一个死胡同，没有任何内容读取 R23（所以我们应该将它从循环中取出，以防循环之后的某些东西需要R8 | 370之后在 R23 中；我们不知道循环中的任何内容。）

• 5 SUB R5,R4,R8 -> 7 ADD R19,R5,R8有死角； 没有任何内容读取 R5 或 R19，因此它们同样可以被排除在循环之外。 （R4 和 R8 在循环后仍具有相同的值。）