為什么 Onnxruntime 在 C++ 中的運行速度比 Python 慢 2-3 倍？
[英]Why Onnxruntime runs 2-3x slower in C++ than Python?
我有一個代碼可以一個接一個地運行 3 個推理會話。 我遇到的問題是它僅在我的 Mac 和在我的 Mac 中運行的 Windows VM (VMWare) 中以最佳性能運行。 運行我的測試集需要 58-68 秒。 當我讓其他人使用 windows（具有類似硬件：Intel i7 6-8 核）進行測試 ...
“OpenCV dnn rea.net forward”在不同版本的 OpenCV 之間是否兼容？
[英]Is "OpenCV dnn readnet forward" compatible among different versions of OpenCV?
我可以成功運行以下代碼並使用 OpenCV 4.5.5 獲得所需的結果。 但是，如果我將 OpenCV 升級到 4.6.0 及更高版本，相同的代碼會生成錯誤且奇怪的 output。 是什么原因以及如何解決？ ...
如何使用 C#.NET 從頭開始訓練神經網絡 model，然后在 ML.NET 中運行它？
[英]How to train a neural network model from scratch using C#.NET and then run it in ML.NET?
我最大的問題是，此時許多與綁定 TorchSharp 和 ML.NET 相關的事情還沒有完成，盡管在許多資源中我看到這項工作正在進行中，但我希望能夠以某種方式克服它。 主要要求是僅使用 C#.NET 從頭開始訓練非常自定義的神經網絡 model，然后運行它。 請不要強調這個要求。 就是這樣。 問題 ...
Pytorch 到 ONNX 轉換錯誤 DeeplabV3
[英]Pytorch to ONNX conversion error DeeplabV3
我正在嘗試使用以下代碼將 Pytorch model 轉換為 ONNX： 但是我收到以下錯誤： 我不確定為什么，但會不會是 model output 是字典形式的？ ...
AttributeError: 'collections.OrderedDict' object 沒有屬性 'modules'
[英]AttributeError: 'collections.OrderedDict' object has no attribute 'modules'
我正在嘗試使用以下代碼將 pt 文件導出到 onnx： 但是，我不斷收到此錯誤： 我嘗試在 inte.net 上搜索錯誤，得到的結果是 但object has no attribute 'modules' 這是我第一次嘗試將某些東西轉換為 onnx，所以我不知道為什么它不起作用。 有什么幫助嗎？ ...
使用 Pytorch 和 C# ML 進行圖像分類
[英]Image classification with Pytorch and C# ML
我正在嘗試將使用 pytorch 制作的圖像分類 model 加載到 c# 應用程序中。 為了完成這個任務，我使用了一個異步任務，但是當我運行這個程序時，它拋出了一個 null 引用異常，因為它接縫它不加載 model。 // 空白頁項模板記錄在https://go.microsoft.com/f ...
onnx 中 Conv op 的 Output 是 Shape None
[英]Output of Conv op in onnx is of Shape None
我訓練了一個 pyTorch model 並嘗試導出為 onnx 格式。 我使用的腳本 然后，當我嘗試使用onnx2tf導出到 tf 時，我得到了 我覺得這不是onnx2tf問題，因為我確實看到了 Conv 的 output 形狀不是 None 的示例（ https://github.com/PI ...
onnx model 在 C#
[英]onnx model in C#
我正在嘗試運行機器學習 model，我使用 ml.net 在 C# 中構建了 Python。 我將 model 轉換為 .onnx (ONNX v7) 並幾乎完全遵循本教程： https://learn.microsoft.com/en-us/azure/machine-learning/how ...
將 onnx model 轉換為 tensorflow 失敗
[英]converting onnx model to tensorflow fails
這個賞金已經結束了。 此問題的答案有資格獲得+100聲望賞金。 賞金寬限期在18 小時后結束。 kingGarfield想讓更多人關注這個問題。 我正在嘗試使用 onnx 將 [dert 模型][1] 轉換為張量流。 我使用帶有torch.onnx.export =12 的 torch.onnx ...
numpy數組（ndarray）不能指定為output層
[英]The numpy array (ndarray) cannot be specified as an output layer
我嘗試編輯我的 Yolo-v7 model 輸出並添加常量 output 張量（邊界框的數量）。 但是當我運行到 TF 的轉換時，我得到了 重現步驟使用onnx_graphsurgeon像這樣修改一個 pyTorch model output 轉換為 openvino 格式,mo --input_m ...
如何將張量模型轉換成onnx文件
[英]How to convert the tensor model into an onnx file
我有一個 tensorrt 引擎文件，jetson nx2 中的生成器。 但是我的 onnx 文件丟失了，如何將張量模型轉換為 onnx 文件例如：a.engine 文件 -> a.onnx 請給我一個建議謝謝我從搜索引擎中檢索到的都是從 onnx 到張量模型 ...
Onnxruntime 擴展未安裝在基於 Arm 的處理器上
[英]Onnxruntime extensions are not installing on Arm Based Processor
安裝 onnxruntime-extensions 時出錯我也嘗試了不同的版本，但每次都遇到同樣的錯誤 服務器規格： 我的環境： 任何幫助將不勝感激謝謝請不要忽視 ...
如何將 ONNX 機器學習 Model 存儲為 Azure Synapse 的十六進制字符串？
[英]How to store ONNX Machine learning Model as a Hexadecimal string for Azure Synapse?
我已經創建了一個 Model.onnx 文件，如何將其轉換為 to.hex 格式以通過 Azure Synapse 中的 SQL 腳本進行預測？ 我閱讀了這篇文檔，但仍然不明白該怎么做。 誰能解釋一下？ ...
模塊“torch.onnx.symbolic_helper”沒有屬性“quantized_args”
[英]module 'torch.onnx.symbolic_helper' has no attribute 'quantized_args'
從 torchvision 導入轉換時出現以下錯誤 我執行的導入 在錯誤之前它會拋出以下警告： torch 和 torchvsion 的版本 附加信息：我使用 cuda 11.8 啟用了 cuda gpu。 ...
有沒有一種簡單快捷的方法來計算照片中一個class的object？
[英]Is there an easy and quick way to count object of one class in the photo?
首先，我請求您的理解——我是這個主題的新手，並且意識到在 .NET 世界中，機器學習並沒有處於特別高的水平。 此外，我是一名大三學生。 我正在嘗試實現一種功能，其中輸入是一張展示一群物種（例如蜜蜂）的照片，而 output 是盡可能精確的這些物體（蜜蜂）的數量。 到目前為止我做了什么： 使用 Cu ...
從onnx model的任意層提取output張量
[英]Extract output tensor from any layer of onnx model
我想在圖像推理過程中提取一個onnx model（例如squeez.net.onnx等）的不同層的output。 我正在嘗試使用 [How to extract output tensor from any layer of models][1] 中的代碼： 盡管我設法獲得了所需的輸入大小，但仍出現 ...
僅加載一次已部署的 ONNX model
[英]Loading a deployed ONNX model only once
我有一個大型機器學習/計算機視覺項目，它使用 ONNX model，使用 python。該項目需要大約 3 秒（本地）來加載 model + 推理。 加載 onnx 所用時間 model：0.2702977657318115 onnx 推理所用時間 1.673530101776123 onnx 推 ...
ONNX 運行時 memory 競技場、重用和模式
[英]ONNX Runtime memory arena, reuse, and pattern
如Python API Doc中所述，onnxruntime session 選項中有一些參數對應於 memory 配置，例如： enable_cpu_mem_arena enable_mem_usage enable_mem_pattern 對它們有一些描述，但我無法准確理解它們的用法和它們 ...
將 pytorch model 轉換為 ONNX
[英]convert pytorch model to ONNX
如何將 pytorch model 轉換為 ONNX？ 我正在嘗試在 Python 3.7 上使用此方法： 即使在 3 行代碼中的最后一行注釋，加載此錯誤： 這是我正在使用 Yolo Model 7x 的git存儲庫： 最終用例是在需要將 PyTorch 模型轉換為 ONYX 的英特爾 Open ...
使用 torch.onnx.export 時出現 NonImplementedError
[英]NonImplementedError on using torch.onnx.export
我正在嘗試通過 ONNX 將預先保存的 PyTorch model 轉換為 TensorFlow。 目前，以下代碼是將 model 導出為.onnx 格式。 neural.network 有 2 個輸入，一個隱藏層有 5 個神經元和一個標量 output。 這是我正在使用的代碼： 我有兩個問題： ...