在不安装 Microsoft.ML.OnnxRuntime 的情况下使用 ML.NET model 实例化 class nuget package

Question

我正在使用 ML.NET 服务

我已经创建并训练了一个 ONNX model，创建了一个库来与训练有素的 model 一起工作。但是有一个问题

任何使用我创建的库的应用程序都需要安装 Microsoft.ML.OnnxRuntime nuget package。

我的库需要在已部署的第 3 方应用程序中使用，其中不允许安装 nuget 包，但可以添加 DLL。 除了dll库，什么都不能加，配置文件也不能加。

我尝试添加由 Microsoft.ML.OnnxRuntime nuget package 安装的 dll：

• Microsoft.ML.OnnxRuntime；
• 系统缓冲区；
• 系统.Memory；
• 系统.数值；
• 系统.数值.向量；
• System.Runtime.CompilerServices.Unsafe。

但是我没有得到正确的结果。 从我的库中实例化 class 会导致异常：

“Microsoft.ML.OnnxRuntime.NativeMethods 的类型初始值设定项引发异常。” EntryPointNotFoundException：无法在 DLL“onnxruntime”中找到名为“OrtGetApiBase”的入口点。

是否可以在不将 Microsoft.ML.OnnxRuntime nuget package 安装到应用程序以使用我的库的情况下解决问题？

Answer 1

问题是 Microsoft.ML.OnnxRuntime 库正在加载本机 onnxruntime.dll。

因此，除了安装上述库的引用外，还需要将onnxruntime.dll库复制到application文件夹中。

onnxruntime.dll取自nuget package