如何修復機器學習瓶應用程序，以保持在heroku上超時？

Question

我有一個燒瓶應用程序應該對用戶輸入進行預測，在輸入后它使用預加載的字符級別lstm模型生成1000個字符。 我所做的是迭代1000次並使用預加載的模型預測每個輸入，然后將預測映射到字符串中。

問題是這個過程需要超過30秒，因此heroku給我一個超時錯誤，有什么方法可以解決這個問題嗎？ 我已經閱讀了有關后台進程的內容，但是在預測完成之前頁面無法繼續前進，所以我不知道該怎么做。 我將在下面提供我做的預測代碼

    pattern = []
    for char in input_words:
        try:
            pattern.append(self.char_to_int[char])
        except:
            pattern.append(0)
    output = ''
    #print(pattern)
    start = time.time()
    for i in range(1000):
        x = np.reshape(pattern, (1, len(pattern), 1))
        x = x / float(n_vocab)
        prediction = m.predict(x, verbose=0)
        m._make_predict_function()
        index = sample(prediction)
        result = int_to_char[index]
        output = output+result

        pattern.append(index)
        pattern = pattern[1:len(pattern)]

        pattern.append(index)
        pattern = pattern[1:len(pattern)]

Answer 1

您可以創建后台進程（multiprocessing.Process fe）在后台執行所有迭代。 預測完成后，將其存儲在變量或數據庫中。

后台進程正在運行時，您可以定期獲取應用程序的路由，返回結果或計算結果的信息。