如何在深度 Java 庫（DJL）中使用 Pytorch 模型？

Question

我想在 Java 中運行EasyNMT 。
但是我不知道如何加載和運行 model。

我加載了 model 如下：

URI uri = new URI("file:////Users/.../prior.pth");
Path modelDir = Paths.get(uri);
Model model = Model.newInstance("model.pth", Device.cpu(), "PyTorch");
model.load(modelDir);

但是，我不知道在此之后該怎么辦。
EasyNMT 執行以下操作：

model.translate("Dies ist ein Satz in Deutsch.", target_lang='en', max_new_tokens=1000)

DJL 如何進行翻譯？

Answer 1

您需要創建自己的Translator來進行預處理和后處理。 您可以找到解釋Translator如何在 DJL 中工作的這個 jupyter 筆記本。

對於 NMT model，您可以在 DJL 中找到此示例： https://github.com/deepjavalibrary/djl/blob/master/examples/docs/neural_machine_translation.md