CUDA_CACHE_DISABLE=1的作用是什么？ 請詳細說明

Question

我在 run.sh 文件中看到一些使用 CUDA_CACHE_DISABLE=1 的代碼。

但是網站上沒有詳盡的解釋。

我從在線文檔中得到的是一些抽象的東西，如下所示：

為即時編譯禁用緩存（設置為 1 時）或啟用緩存（設置為 0 時）。 禁用時，不會將二進制代碼添加到緩存或從緩存中檢索。

但什么是二進制緩存和檢索？

這個命令哪里可以更好，更好地利用 GPU 內存或其他東西？ 提前致謝。

Answer 1

Nvidia 在這里對此進行了解釋。

簡而言之：必須為每個主要的新 GPU 架構重新編譯 CUDA 代碼。 CUDA 代碼的二進制文件通常包含 PTX 作為此的中間表示。 編譯結果將被緩存。

禁用緩存會影響啟動時間和磁盤 memory 使用率，但不會影響運行時性能。