在 ram 中加载 yolov5 model 一次，然后每个线程使用它而不是再次加载新的 model

Question

我正在从事一个关于计算机视觉和检测视频异常的项目。 在给定时间会有多个视频流，因此我们为每个单独的 stream 创建单独的线程。每个线程将 model 加载到 RAM 中，然后开始推理。 我们想在 ram 中加载 model 一次，然后每个线程都在那个 model 上工作，所以这种方法会更快，而且它需要更少的 RAM 使用率，并且不会产生任何 memory 问题。 就像不同进程使用的 DLL 文件一样。

我想问一下，我们可以这样做吗？ 如果是，那么我该如何执行，因为我在浏览这个问题时找不到任何相关资料。

Answer 1

DLL 是一个包含代码和数据的库，可以同时被多个程序使用。 例如，在 Windows 操作系统中，Comdlg32 DLL 执行常见的对话框相关功能。 每个程序都可以使用此 DLL 中包含的功能来实现“打开”对话框。 它有助于促进代码重用和高效使用 memory。 我认为这会有所帮助