如何確定 Azure 聊天機器人的負載要求以選擇合適的應用服務計划

Question

RFP 要求

我們需要提交 RFP，其中需要提及 Azure 聊天機器人的應用服務計划。

• 目前我們不確定業務需求，我們只知道它是一個服務機器人，將與其他企業應用程序集成並回答常見問題。
• 可以根據什么計算Azure Chat Bot的系統要求，幫助我們選擇相關的應用服務計划？

• 假設聊天機器人需要承受 50 個請求/秒的負載？ 另外，這是對企業聊天機器人的很高期望嗎？

Answer 1

您沒有被鎖定到應用服務計划層。 您可以根據使用情況擴大（或縮小）計划。

• 對於開發，我發現 B1 就足夠了。 對於 Linux，與 S1 相比，它具有主要的價格優勢。 對於Windows，不是那么多。

• 對於Production ，這將高度依賴於您的規模負載。 對於大多數正常流量，S1 可能就足夠了。 它很好地兼顧了性能和成本。 在 Linux 上，P1v2 提供了一些不錯的額外性能，而花費的錢不多（同樣，對於 Windows 來說也沒有那么多）。 P1v2對您來說可能是更好的選擇，因為它通過增加實例數量支持更高的規模，如果您的流量那么大，您可能需要這樣做。

  • 值得一提的是，我有一個實驗室環境，在一個 S1 計划（混合了聊天機器人、QnA Maker 和函數應用程序）上運行了 17 個應用程序服務，盡管我通常每秒沒有很多請求，但 ASP應付得很好。

除此之外，您可以繼續擴大規模，但成本會大大增加。 您可以在此處查看定價頁面以獲取更多詳細信息（該鏈接適用於 Linux，如果您需要 Windows，請務必更改此設置）。

編輯：根據有關您的機器人的其他信息，您需要考慮其他會限制您的峰值負載的事項。

• LUIS S0計划每秒僅支持 50筆交易，因此這將是您的上限（假設發送到機器人的每條消息都通過 LUIS）。 F0計划只給你5TPS。
• QnA Maker僅支持每分鍾 100 筆交易（免費和標准）的 3 TPS。
  • QnA Maker 限制是針對門戶/管理 API 而不是一般查詢
• 我找不到 Azure 存儲（狀態）或 App Insights（日志記錄）的任何費率，但我想這些都高於 LUIS 的 50 TPS。
• 您還必須分別考慮 RBAC 和外部集成。

盡管如此，從應用服務計划本身來看，我仍然認為P1v2對您來說綽綽有余。 您可能也可以使用S1 。 好消息是，如果您發現它沒有提供足夠的容量，您可以輕松地擴大或縮小該計划。