我如何使用 BERT 進行機器翻譯？

Question

我有一個大問題。 對於我的學士論文，我必須使用 BERT 進行機器翻譯 model。 但我現在沒有任何進展。 您知道可以在這里幫助我的文檔或其他內容嗎？ 我已經閱讀了一些關於這個方向的論文，但也許有一個文檔或教程可以幫助我。

對於我的學士論文，我必須將文本摘要翻譯成標題。 我希望有一個人可以幫助我。

Answer 1

BERT 不是機器翻譯 model，BERT 旨在提供對各種 NLP 任務有用的上下文句子表示。 盡管存在如何將 BERT 整合到機器翻譯中的方法（ https://openreview.net/forum?id=Hyl7ygStwB ），但這並不是一個簡單的問題，而且人們懷疑它是否真的有回報。

從您的問題來看，您似乎不是真正的機器翻譯，而是自動摘要。 與機器翻譯類似，可以使用序列到序列模型進行處理，但我們在 NLP 中不稱其為翻譯。 對於序列到序列的建模，有不同的預訓練模型，例如BART或MASS 。 這些應該比 BERT 有用得多。