CUDA_CACHE_DISABLE=1的作用是什么？ 请详细说明

Question

我在 run.sh 文件中看到一些使用 CUDA_CACHE_DISABLE=1 的代码。

但是网站上没有详尽的解释。

我从在线文档中得到的是一些抽象的东西，如下所示：

为即时编译禁用缓存（设置为 1 时）或启用缓存（设置为 0 时）。 禁用时，不会将二进制代码添加到缓存或从缓存中检索。

但什么是二进制缓存和检索？

这个命令哪里可以更好，更好地利用 GPU 内存或其他东西？ 提前致谢。

Answer 1

Nvidia 在这里对此进行了解释。

简而言之：必须为每个主要的新 GPU 架构重新编译 CUDA 代码。 CUDA 代码的二进制文件通常包含 PTX 作为此的中间表示。 编译结果将被缓存。

禁用缓存会影响启动时间和磁盘 memory 使用率，但不会影响运行时性能。