如何将预训练的张量流模型加载并预测到Java代码中？

Question

我不确定将预先训练的keras模型加载到Java代码中的常见做法是什么？

我看到了deeplearning4j和Google的本机Java支持 。

令人惊讶的是，谷歌说：

警告：TensorFlow API稳定性保证不涵盖TensorFlow Java API。

我真的很困惑，这里发生了什么，选择tensorflow Java引擎之前我需要考虑什么。 显然，我想支持最新的CUDA / cuDNN。 我的应用程序运行在PC上，而不是移动应用程序。

Answer 1

您可以按照以下步骤操作：

1. 您可以使用TensorFlow Lite或TensorFlow Mobile。 建议使用TensorFlow Lite。 拜访这里 。
2. TensorFlow Lite具有gradle以及maven依赖关系，这在Android和Java中非常有用。
3. 要将您的python模型转换为TF Lite文件，请使用此笔记本中的函数
4. 它可以在您使用python训练的模型上进行推断。 但是，TF Lite在LSTM单元和BatchNormalization层方面存在问题。