如何在外部非Tensorflow環境中測試經過訓練的CNN模型？

Question

我已經為我的自定義對象檢測訓練了預訓練的Tensorflow模型，並且已經導出了推理圖文件和檢查點文件。 現在，我希望其他人也可以通過提供一些新圖像並查看結果來測試我訓練有素的模型。 但是，如果外部“評估者”沒有任何Tensorflow環境並且他們也不想設置它，那么最好的方法是什么？

我用了：

Miniconda3，Tensorflow v1.10.0（gpu），Tensorboard v1.10.0，Cudatoolkit 8.0，TF預訓練模型“帶有Mobilenet v1的SSD”。

我已找到並閱讀的所有手冊僅指導您通過運行Tensorflow object_detection文件夾中的某些代碼來測試模型。 但是，對於以前沒有做過的人來說，設置TF可能會很麻煩。 我認為也許可以通過某種方式“打包”它，以便其他人可以輕松地輕松運行它。 僅作為示例，讓我們考慮“輕松”的情況，在該情況下，我向他們發送了一個裝有現成Jupyter Notebook的文件包，因此唯一的努力就是將其打開包裝並學習如何使用筆記本。

請提供可能不同的建議，不同的專業知識水平和對“輕松”的不同理解的建議。 但請考慮我也是該領域的新手。

Answer 1

看一下tfdeploy 。

它是一個輕量級的軟件包，允許您使用numpy將tensorflow模型部署為可調用對象（這是一種更合理的依賴方式）。

Answer 2

TensorFlow Serving在這里可能是一個過大的選擇（因為它需要Docker），但是它通過REST API提供了推理環境。