无法通过 Python 中的 Selenium 杀死 Chrome 进程并使用 ChromeDriver 和 Chrome 耗尽内存

Question

我有一个爬行过程，它在一个自定义类中启动 selenium，如下所示：

class BrowserInterface:

def __init__(self, base_url, proxy_settings):

    self.base_url = base_url

    self.display = Display(visible=0, size=(1024, 768))
    self.display.start()

    proxy_argument = '--proxy-server={0}'.format(PROXY_URL.format(
        proxy_settings.get('proxy_host'),
        proxy_settings.get('proxy_port')
    ))

    logger.debug(proxy_argument)

    options = webdriver.ChromeOptions()
    options.add_argument('--no-sandbox')
    options.add_argument(proxy_argument)

    selenium_chrome_driver_path = os.path.join(settings.DEFAULT_DRIVER_PATH,
                                               settings.CHROME_DRIVERS[settings.CURRENT_OS])

    self.driver = webdriver.Chrome(executable_path=selenium_chrome_driver_path, chrome_options=options)

def visit(self, url):
    url = urljoin(self.base_url, url)
    self.driver.get(url)

def body(self):
    soup = BeautifulSoup(self.driver.page_source)
    return soup.find("body").text

def quit(self):
    self.driver.quit()
    self.display.stop()

此 BrowserInterface 类在批处理队列中初始化，并在批处理结束时调用 quit() 方法。 启动 chrome 和获取数据没有问题。 问题是，在每个作业结束时，当调用 quit() 方法时，chrome 会进入僵尸模式。 当下一个 BrowserInterface 被初始化时，它会启动一个新的 chrome 实例。 因此，盒子内存不足。 我也尝试在 chrome 进程上运行 a kill 命令，但它仍在运行。 任何方向都将不胜感激，因为我即将把头发拉出来。

在 Ubuntu 18.04、谷歌浏览器 70.0.3538.110、ChromeDriver 2.44、Python3.6.6 上运行

提前致谢！

Answer 1

从您的代码试验中，很明显您已经调用self.driver.quit() ，它应该可以完美运行。

但是，由于僵尸chrome 进程导致该框仍然内存不足，您采取了正确的方法来执行 a kill命令，您可以在quit()方法中添加以下解决方案：

from selenium import webdriver
import psutil

driver = webdriver.Chrome()
driver.get('http://google.com/')

PROCNAME = "chrome" # to clean up zombie Chrome browser
#PROCNAME = "chromedriver" # to clean up zombie ChromeDriver
for proc in psutil.process_iter():
    # check whether the process name matches
    if proc.name() == PROCNAME:
        proc.kill()

Answer 2

请参阅： https ://stackoverflow.com/a/49756925

创建 bash 作为根进程允许更好的“僵尸处理”。 Python 并不意味着作为导致僵尸的顶级进程运行。