[英]Am I overloading the application server with too many requests?
我是每兩秒加載一次網站,還是總是在網站重新加載后立即重新加載,這會有什么不同嗎? 那么,如果我使用 python 和 selenium 並且頁面或其子目錄每兩秒打開一次,或者在子目錄可用時立即打開? 否則服務器可能過載。
for each in self.all:
self.driver.get(each)
要么
WebDriverWait(self.driver, 60).until(
EC.presence_of_element_located((By.TAG_NAME, 'p')))
self.driver.get(each)
是的,這很重要。 如果您要在短時間內發出很多請求,您會收到429
狀態碼,這意味着您發出了太多請求。 此外,您可能會收到驗證碼或觸發其他安全措施。
就Selenium而言
我在您的任何一個代碼塊中都沒有看到任何問題涉及:
get()
請求。presence_of_element_located()
唯一的灰色區域是presence_of_element_located()
的expected_conditions 。 如果您的用例是提取文本,您必須為visibility_of_element_located()
引入WebDriverWait
您可以在以下位置找到幾個相關的討論:
不要向根據其服務條款不允許的網站發送自動查詢,否則您可能會被阻止。
聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.