如何使用硒从网站上抓取一些链接

Question

我一直在尝试使用以下脚本从网页中解析以20012019.csv的链接，但问题是我总是遇到timeout exception错误。 我想到我以正确的方式做事。

但是，对于我要去哪里的任何见解将受到高度赞赏。

到目前为止我的尝试：

from selenium import webdriver

url = 'https://promo.betfair.com/betfairsp/prices'

def get_info(driver,link):
    driver.get(link)
    for item in driver.find_elements_by_css_selector("a[href$='20012019.csv']"):
        print(item.get_attribute("href"))

if __name__ == '__main__':
    driver = webdriver.Chrome()
    try:
        get_info(driver,url)
    finally:
        driver.quit()

Answer 1

您的代码很好（尝试了它并且可以工作），得到超时的原因是因为根据此答案 ，默认超时为60s，并且页面很大。

在发出get请求之前将其添加到您的代码中（超时之前要等待180秒）：

driver.set_page_load_timeout(180)

Answer 2

你近了 您必须诱使WebDriverWait获得所定位的所有元素的可见性，并且需要更改该行：

for item in driver.find_elements_by_css_selector("a[href$='20012019.csv']"):

至：

for item in WebDriverWait(driver, 30).until(EC.visibility_of_all_elements_located((By.CSS_SELECTOR, "a[href$='20012019.csv']"))):

注意 ：您必须添加以下导入：

from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.common.by import By
from selenium.webdriver.support import expected_conditions as EC