cuda 代碼可以在沒有 cudaStreamDestroy() 的情況下完成嗎？

Question

在我們的大型代碼庫中，我發現有多個cudaStreamCreate()函數。 但是，我在任何地方都找不到cudaStreamDestroy() 。 程序完成后銷毀流是否重要，或者不需要擔心這一點？ 在這方面什么是好的編程實踐？

Answer 1

程序完成后銷毀流是否重要，或者不需要擔心這一點？

運行時 API 將在正常進程終止期間清除進程擁有的上下文分配的所有資源（流、memory、事件等）。 在大多數情況下，沒有必要顯式銷毀流。

Answer 2

雖然 talonmies 的回答是正確的，但銷毀您的流和在 CUDA 中創建的其他實體通常仍然很重要：

1. 如果您正在編寫庫 - 您可能會在應用程序退出之前完成您的工作。 （盡管在那種情況下您可能在不同的CUDA 上下文中工作，並且您可能會簡單地破壞整個上下文）。
2. 如果您創建流的代碼可能會被多次調用。

此外，如果您在完成所有工作后沒有同步您的流，那么您可能會遺漏一些錯誤（以及您最后一點工作的結果）； 如果你確實有一個“最后同步”，那通常意味着有機會也摧毀 stream。

最后，如果你使用 C++ 風格的包裝器，比如我的，那么當你離開創建它們的 scope 時，流就會被銷毀，你不必擔心它（但你支付了 stream 銷毀 API 調用的開銷） .