加载时 Windows dll 插件崩溃

Question

寻找一些关于在加载 dll 时什么会导致 Windows 中此类崩溃的建议。

我正在用 C++ 编写 Windows VST3 .dll 插件，并且在加载我的 .dll 时遇到启动崩溃。 当通过 Visual Studio 2019 调试器运行主机应用程序和插件时，我收到了上面显示的Access violation executing location ...对话框，并且调用堆栈为空，让我认为内存已完全损坏。

也许这是由我在构建 .dll 时需要调整的链接选项引起的？

以下是一些事实：

• 插件本身运行良好。 当所有 3rd 方 API 调用都被注释掉时，我可以让它毫无问题地加载和卸载。
• 如果我将一些 3rd 方库链接到我的插件中，那么一切正常。
• 一旦我调用了这些 3rd 方库中的任何一个，就会导致启动时出现段错误。
• 插件是用 /MD 构建的，但我也尝试过 /MT 并看到了相同的行为。
• 我正在使用 JUCE C++ 来获取 VST3 框架和 GUI 组件。
• 我正在链接并尝试调用的第 3 方库之一的示例是 SuperpoweredSDK C++ 库。 但是我尝试了其他库，并且每个库的行为都相同。

不幸的是，将整个空白的 VST3 插件放在一起是太多代码，无法在 StackOverflow 问题中发布。 但是因为如果我注释掉对 3rd 方库的所有调用，我可以让插件工作，我认为代码本身不是问题，我认为 dll (.vst3) 文件的构建方式是问题所在。

构建 .vst3 dll 文件的CMakeLists.txt文件的关键部分如下所示：

FIND_LIBRARY ( SuperpoweredSDK NAMES SuperpoweredWin141_Debug_MD_x64.lib PATHS ${SUPERPOWERED_DIR}/libWindows )
SET ( TEST_EXTERNAL_DEPS PRIVATE Threads::Threads ${SuperpoweredSDK} )

FILE ( GLOB JUCE_SOURCE ${CMAKE_HOME_DIRECTORY}/JuceLibraryCode/*.cpp )
LIST ( FILTER JUCE_SOURCE EXCLUDE REGEX ".+/JuceLibraryCode/include_juce_audio_plugin_client_[^u].+" )

FILE ( GLOB PLUGIN_SOURCE *.cpp )

ADD_LIBRARY ( TestVST3 SHARED ${JUCE_SOURCE} ${PLUGIN_SOURCE} ${CMAKE_HOME_DIRECTORY}/JuceLibraryCode/include_juce_audio_plugin_client_VST3.cpp )
SET_TARGET_PROPERTIES ( TestVST3 PROPERTIES OUTPUT_NAME "Test" SUFFIX ".vst3" )
TARGET_LINK_LIBRARIES ( TestVST3 PUBLIC ${TEST_EXTERNAL_DEPS} )

Answer 1

加载 dll 时，什么会导致 Windows 中发生这种类型的崩溃

典型的原因是某些全局变量的初始化程序。 加载 DLL 时会崩溃的示例代码：

class C
{
public:
    C() { __debugbreak(); } // Compiles into `int 3` interrupt, will definitely crash
};
static C g_c;

当您链接外部库但不调用它时，链接器的死代码消除功能通常会删除已链接但未使用的完整 .obj 文件。 这也会在那里删除变量及其构造函数。

一种调试方法，在 DllMain 上设置断点。 但不是代码中的DllMain ，而是实际导出的另一个。 在 VC++ 2017 CRT 中，一个名为dllmain_dispatch的源文件位于 VC++ 运行时crt\\src\\vcruntime\\dll_dllmain.cpp 。 dllmain_dispatch 在调用您的DllMain之前调用了几个函数，其中一个dllmain_crt_process_attach调用了_initterm而那个实际上调用了所有全局内容的构造函数。 在您的情况下，其中至少有一个失败。

PS 像这样崩溃的一个可能原因是，您的第三方库正在尝试使用 COM，而调用 LoadLibrary 的线程从未调用过 CoInitialize()。

Answer 2

我们最终确实找到了这次崩溃的原因。 对于 VST3 文件，DAW 加载每个 .dll（或 .vst3），查询功能，然后立即再次卸载 dll。 然后它移动到下一个文件，整个过程重新开始，直到查询完所有插件。

在这种情况下，我使用的第 3 方库之一（SuperpoweredSDK）启动了一个后台线程，以针对某处的 Web 服务器验证许可证。 这没有记录。 随着后台线程启动，DAW 在不知不觉中继续卸载 DLL，让线程挂在那里运行不再存在的代码！ 因此，崩溃没有任何调用堆栈。

几种可能的解决方案：

• 将 SuperpoweredSDK 初始化代码移到稍后真正需要的时候。
• 在未来尚未发布的 SuperpoweredSDK 版本（当前版本是 2.0.1）中，他们显然会添加一个 API 调用来关闭 Superpowered，并且该关闭调用将等到所有后台线程运行完毕。 确保你调用了这个新的 API。