GPU架构（Nvidia）

Question

在我正在阅读的所有论文中，我看到GPU由多处理器组成，每个多处理器有8个处理器，能够并行执行单个warp。
我正在使用的GPU是Nvidia 560，它在每个多处理器中只有7个多处理器但48个处理器。 这是否意味着Nvidia 560中的每个多处理器能够并行执行6个warp？
我可以说在Nvidia 560上并行执行的最大线程数是32 * 6 * 7 =并行1344个线程吗？ （32 = warp，7 = multipricessors，6 = warps并行执行）

在最快的Nvidia GPU中有多少个多处理器？ 什么是这个GPU？ 最大GPU拥有的最大全局内存量是多少？

Answer 1

来自CUDA编程指南4.2 ：

[...]在每个指令发布时间，warp调度程序选择一个warp，该warp具有准备好执行其下一条指令的线程（warp的活动线程）并向这些线程发出指令。

因此，每个SM的最大并发运行waprs数等于warp调度程序（WS）的数量。

GeForce 580具有2.1架构：

对于计算能力2.x的设备，多处理器包括：[...] 2个warp调度程序

这意味着，GPU的每个SM可以同时运行2个warp = 64个线程，总计448个线程。 但是请注意，强烈建议使用比这更多的线程：

将warp准备好执行其下一条指令所需的时钟周期数称为延迟，并且当所有warp调度程序总是在该延迟期间的每个时钟周期都有一些指令要发出某些warp时 ， 就会实现完全利用率 ，换句话说，当延迟完全“隐藏”时。

关于您的其他问题： GeForce GTX690拥有3072个CUDA核心。 然而，对于CUDA来说，它看起来像是两个独立的GPU，每个都有1536个核心，所以它并不比两个GeForce 680更好，而后者很容易被大量的在线评论所超频。 GPU中最大的内存安装在nVidia Tesla M2090 ：6GiB的GDDR5（512 CUDA内核）中。 我想，很快，基于Kepler架构（如GeForce 6xx）的Teslas新系列将很快发布，但我还没有听说过任何正式宣布。

Answer 2

你正在阅读的论文很旧。 前两代CUDA GPU每个MP有8个内核，并发出单个warp的指令（如果你想简化，每个指令在8个内核上执行四次以服务单个warp）。

您拥有的费米卡更新，更不同。 它是来自每个多处理器的两个不同warp的“双重问题”指令（因此每个warp指令在16个内核上执行两次）。 当代码流允许时，可以将来自这两个warp之一的附加指令发布到剩余的16个核上，即。 有限形式的无序执行。 后一种功能仅适用于计算能力2.1设备。 在计算能力2.0设备上，每个多处理器只有32个核心。 但是在任何给定的着色器时钟周期上每个多处理器的每个MP 退休指令的warp数是两种情况。 请注意，有一个相当深的指令管道，因此在发布和退出之间存在相当大的延迟，并且在任何时刻每个多处理器最多有48个活动 。

因此，对于GTX 560中的7个多处理器，您的答案是14个warp或336个warp，具体取决于您希望采用的“并行执行”的定义。 我用来回答这个问题的信息主要来自当前编程指南的附录F.