在 Google Cloud Run 上使用 Threading 的 Python Flask 应用程序的性能不一致

Question

我试图了解 Python Flask 应用在 Google Cloud Run 上看似不一致的性能。 该应用程序将图像文件作为输入，并使用 cv2 进行一些预处理，然后使用 Tesseract 进行 OCR。 我使用 Python 线程来并行化图像和 OCR 处理，但即便如此，总处理可能需要 10 到 20 秒。

@app.route('/process_image/<path:image_path>')
def process_image(image_path):
    processing_results = process_input_image(image_path)

    return processing_results

def process_input_image(image_path)
    # process_input_image uses Python Threads to parallelize image processing
    for work in list_of_image_processing_work:
        th = Thread(target=do_image_work, args=(work, results))
        th.start()
    # wait for all threads to complete
    return results

我想返回一个更直接的响应，表明处理需要更多时间。 因此，我尝试了以下更改以在图像处理调用上启动一个线程。 Net，我在调用一个例程时启动一个线程，该例程本身启动一系列线程来进行图像处理。

@app.route('/process_image/<path:image_path>')
def process_image(image_path):
    th = Thread(target=process_input_image, args=(image_path, results))
    th.start()

    return 'This\'ll just be a moment or so.'

但是，一旦我添加了第二层线程，Google Cloud Run 上的处理似乎就停止了。 查看日志，我可以看到例程process_input_image开始，但似乎进展缓慢，几乎就像它是低优先级，最终永远不会完成。 我想知道这是否是线程优先级的事情。

Answer 1

当 HTTP 请求返回消息时，CPU 处于空闲状态。 这意味着在 HTTP 请求之后运行的线程可能会因 CPU 不足而被终止。

如果您希望后台线程运行，请选择always-on CPU<\/strong> 。

如何分配永远在线的 CPU<\/a>