在 ram 中加載 yolov5 model 一次，然后每個線程使用它而不是再次加載新的 model

Question

我正在從事一個關於計算機視覺和檢測視頻異常的項目。 在給定時間會有多個視頻流，因此我們為每個單獨的 stream 創建單獨的線程。每個線程將 model 加載到 RAM 中，然后開始推理。 我們想在 ram 中加載 model 一次，然后每個線程都在那個 model 上工作，所以這種方法會更快，而且它需要更少的 RAM 使用率，並且不會產生任何 memory 問題。 就像不同進程使用的 DLL 文件一樣。

我想問一下，我們可以這樣做嗎？ 如果是，那么我該如何執行，因為我在瀏覽這個問題時找不到任何相關資料。

Answer 1

DLL 是一個包含代碼和數據的庫，可以同時被多個程序使用。 例如，在 Windows 操作系統中，Comdlg32 DLL 執行常見的對話框相關功能。 每個程序都可以使用此 DLL 中包含的功能來實現“打開”對話框。 它有助於促進代碼重用和高效使用 memory。 我認為這會有所幫助