如何使用Selenium Python保存特定页面的驱动程序，直到保存特定的下拉菜单列表和整个列表请求为止？

Question

我为此页面制作了一个爬虫（ http://www.bobaedream.co.kr/cyber/Cyber​​Car.php?gubun=I ）来收集特定制造商的库存清单。 我的代码从选择搜索菜单第一行中的下拉菜单开始。

每个右下拉菜单都是其左下拉菜单的子菜单。 我想做的是在每个下拉菜单中选择每个第一项，然后单击“搜索”按钮进行首次运行。 爬取其库存清单后，然后设置上一个下拉菜单的第二项，然后单击“搜索”按钮。 （如果最后一个下拉菜单中只有一个项目，则从上一个下拉菜单转到第二个下拉菜单，然后选择其中的第二个项目。）

但是问题发生在这里。 我将每个下拉菜单的每个项目保存为元组。 当我尝试为第二轮爬网调用上一个下拉菜单的第二个项目时，发生“ StaleElementReferenceException”或“ NoSuchElementException”，并出现“元素不再连接到DOM”消息。 因此，我想驱动器直到每个下拉菜单迭代完成为止。

下面是我的代码，但仍然有错误消息。 我的错误通常发生在第二个while循环中。 这时，我添加了一些“等待”功能和“刷新”功能。 有时它可以帮助我退出代码中的while循环，但是通常它会陷入while循环和无限重复中。 我猜第二个“ try”函数中的某种类型的“ wait.until（EC。〜）”代码可以解决此问题，但是我对此没有具体想法。 请帮助或给我任何建议。

def option2_menu_loaded(inDriver):
    path = '//select[@id="level2_no"]'
    return inDriver.find_element_by_xpath(path)

self.wait.until(option2_menu_loaded)

while True:
    try:
        select_option2_values = [
            ('%s' % o.get_attribute('text'), '%s' % o.get_attribute('value'))
            for o
            in Select(self.driver.find_element_by_css_selector("#level2_no")).options
            if o.get_attribute('text') != '세부등급']
    except (StaleElementReferenceException, NoSuchElementException):
        print("=======Exception Found - Option2 Save=====")
        self.driver.refresh()
        self.driver.implicitly_wait(1.5)
        continue
    break

for option2 in select_option2_values:
    self.csv.setCarTitle(ma, mo, de, option1[0], option2[0])

    print(option2[0], option2[1])
    self.driver.implicitly_wait(0.5)

    while True:
        try:
            Select(self.driver.find_element_by_css_selector("#level2_no")).select_by_value(option2[1])

        except (StaleElementReferenceException, NoSuchElementException):
            print("=======Exception Found - Option2 Request=====")
            self.driver.refresh()
            self.driver.implicitly_wait(1.5)
            self.driver.refresh()
            continue
        break

Answer 1

这意味着在查找元素和使用元素对象之间重新加载包，确保首先加载页面并在每次需要使用元素时搜索该元素。

额外的检查是在执行选择之前为元素添加额外的等待，因为find_element_by_css_selector根本不会等待元素可用。

顺序应为：页面加载>等待元素存在>对元素使用操作