CUDA内核功能代码是一次上传还是每次调用都上传到GPU-RAM？

Question

启动程序时，CUDA内核功能的可执行代码是立即上传到GPU还是每次调用内核功能时都上传代码？ 或在哪种情况下可能是另一种方式？

这会极大地影响编程方法的选择：

• CPU主机对内核函数的大量调用
• 动态并行性的使用以及GPU设备对内核函数的大量调用

Answer 1

使用CUDA运行时API时，内核代码将一次下载到设备中。 在CUDA运行时上下文创建之后，这作为隐式动作发生。 使用CUDA驱动程序API时，该应用程序可以控制何时下载内核以及下载频率。 似乎CUDA文档当前未涵盖此内容，我将为此提出增强要求。