使用微服務每分鍾處理100個請求

Question

我有應處理以下內容的node.js應用程序

1. 獲取zip文件以提取這些文件（具有一些鍵和值的js模塊文件-最多20個文件，但每個請求通常為5-8個文件）
2. 對這些文件進行一些分析，然后從中創建新文件，然后將其發送回客戶端（如果請求包含5個文件，則分析應返回相同的5個新文件，依此類推…）
3. 壓縮此新文件並將其發送回客戶端

我已經創建了可以正常工作的分析模塊，對於大約10個文件，大約需要250-300毫秒來進行分析和創建新文件。

假設我需要為100個可以做到這一點的客戶提供服務

現在，我想創建一些stateless微服務來扭曲此功能，並基本上

get zip
extract zip
manipulate 
zip
send files

為此，我想在雲中創建一個micro service （無狀態）（我想將其部署到應該處理它的雲（cloud Foundry / Heroku）中，我的問題是我應該如何處理多個請求？每分鍾有100個請求……我知道這應該是異步的，但我仍然擔心10個或更多請求將使我的應用程序崩潰……

隊列？ 縮放？

Answer 1

我知道應該異步運行，但是仍然很害怕，對於10個或更多請求，我的應用程序將被破壞

I believe you have a bad idea on what a stateless server is.

無狀態服務器功能強大，可擴展且可擴展。 無狀態服務器可以處理您所提到的更多請求，而不會被壓垮，直到您的雲賬單帳戶中有足夠的信用額度為止–至少這就是我們使用無狀態服務器的全部原因

努力吧，您的應用程序可以處理任何數量的請求:)

如果您仍然擔心，請嘗試拆分您的應用程序。 就像-讓您的功能之一進行提取，一旦完成，它就可以請求分析功能來開始工作。 您可以使用發布/訂閱或API端點與不同的無狀態服務器進行通信（只需檢查文檔）