1 个 CUDA 核心可以在每个时钟（Maxwell）中处理 1 个以上的浮点指令吗？

Question

Nvidia GPU 列表 - GeForce 900 系列- 写到：

4 单精度性能计算为着色器数量乘以基本核心时钟速度的2 倍。

例如，对于 GeForce GTX 970，我们可以计算性能：

1664 核 * 1050 MHz * 2 = 3 494 GFlops 峰值（3 494 400 MFlops）

我们可以在列 - 处理能力（峰值）GFLOPS - 单精度中看到这个值。

但是为什么我们必须乘以 2呢？

有写： http : //devblogs.nvidia.com/parallelforall/maxwell-most-advanced-cuda-gpu-ever-made/

SMM 使用基于象限的设计，具有四个 32 核处理块，每个块都有一个专用的 warp 调度程序，能够在每个时钟分派两条指令。

好的，nVidia Maxwell 是超标量架构，每个时钟分派两条指令，但是 1 个 CUDA 核心（FP32-ALU）每个时钟可以处理 1 条以上的指令吗？

我们知道 1 个 CUDA-Core 包含两个单元：FP32-unit 和 INT-unit。 但是 INT-unit 与 GFlops（每秒浮点运算）无关。

即一个 SMM 包含：

• 128 FP32 单元
• 128 INT单元
• 32 SFU单元
• 32 LD/ST 单元

为了在GFlops 中获得性能，我们应该只使用：128 个 FP32 单元和 32 个 SFU 单元。

即如果我们同时使用 128 个 FP32 单元和 32 个 SFU 单元，那么我们可以获得 160 条带有浮点运算的指令，每个时钟每 1 SM。

即我们必须乘以 1,2 =(160/132) instad of 2。

1664 核 * 1050 MHz * 1,2 = 2 096 GFlops 峰值

为什么在 wiki 中写到我们必须将 Cores*MHz 增加 2 个？

Answer 1

总结：在 FP 吞吐量的标准计算中，一个 FMA 算作 2 FLOP s，即使在单个执行单元的单个指令中执行此操作的机器上也是如此（这就是它如何避免中间舍入， FMA的融合部分）。

---

CUDA“核心”（也称为 SP - 流处理器）最常指的是 SM（流多处理器）中的单精度浮点单元。 CUDA 内核每个时钟周期可以启动一条单精度浮点指令。 （该单元是流水线式的，因此它每个时钟可以启动一条指令，每个时钟可以退出一条指令，但它不能在给定的时钟周期内完全处理给定的指令。）

例如，如果该指令是单精度加法或单精度乘法，那么该内核每个时钟可以贡献一个浮点运算，因为加法或乘法算作一次浮点运算。 另一方面，如果指令是 FMA 指令（浮点乘加），那么内核将在同一时间段内执行浮点乘法和浮点加法运算。 这意味着一条指令可以有效地执行两个操作。 在计算峰值理论吞吐量时，FMA 的这种用法会产生 2 乘数。

因此，一个内核每个时钟只能处理（即启动、退出）一条指令，但如果该指令是 FMA，则它算作两次浮点运算。