Python 代理認證通過Selenium chromedriver

Question

我們嘗試了幾天在 Python 中使用 selenium chromedriver 設置代理身份驗證。我們無法設置 ip，因為 Chrome 會彈出身份驗證窗口。 問題是 selenium 無法切換到 window，因此無法輸入。 唯一對我們有用的解決方案是使用 pyautogui，這對我們來說是一個糟糕的解決方案，因為我們想使用無頭 function。

以下是我們嘗試過的所有方法：

driver.switch_to_window()

driver.switch_to_active_element()

driver.switch_to_alert()

ActionChains(driver).send_keys("test").perform()

driver.switch_to_alert()

options = webdriver.ChromeOptions()
options.add_argument('--proxy-server=http://user:pass@3.223.68.195:31112')

driver.get("https://user:pass@google.com")

proxy = {'address': '3.209.253.119:31112',
         'username': 'user',
         'password': 'pass'}


capabilities = dict(DesiredCapabilities.CHROME)
capabilities['proxy'] = {'proxyType': 'MANUAL',
                         'httpProxy': proxy['address'],
                         'ftpProxy': proxy['address'],
                         'sslProxy': proxy['address'],
                         'noProxy': '',
                         'class': "org.openqa.selenium.Proxy",
                         'autodetect': False}

capabilities['proxy']['socksUsername'] = proxy['username']
capabilities['proxy']['socksPassword'] = proxy['password']

driver = webdriver.Chrome(executable_path="chromedriver.exe", desired_capabilities=capabilities)
driver.get("http://google.com")

任何幫助將非常感激：）

Answer 1

如果您需要在 python 和 Selenium 庫中使用無身份驗證（無用戶名或密碼）的代理和 chromedriver，您通常使用以下代碼：

chrome_options = webdriver.ChromeOptions()
chrome_options.add_argument('--proxy-server=%s' % hostname + ":" + port)
driver = webdriver.Chrome(chrome_options=chrome_options)

除非代理需要身份驗證，否則它工作正常。 如果代理要求您使用用戶名和密碼登錄，它將不起作用。 在這種情況下，您必須使用下面解釋的更棘手的解決方案。

要設置代理身份驗證，我們將生成一個文件並使用下面的代碼將其動態上傳到 chromedriver。 這有效地創建了一個 chrome 擴展。 此代碼使用 chromedriver 配置 selenium 以使用需要使用用戶/密碼對進行身份驗證的 HTTP 代理。

import os
import zipfile

from selenium import webdriver


def create_chromedriver(PROXY_HOST, PROXY_PORT, PROXY_USER, PROXY_PASS, USER_AGENT):
    manifest_json = """
    {
    "version": "1.0.0",
    "manifest_version": 2,
    "name": "Chrome Proxy",
    "permissions": [
        "proxy",
        "tabs",
        "unlimitedStorage",
        "storage",
        "<all_urls>",
        "webRequest",
        "webRequestBlocking"
    ],
    "background": {
        "scripts": ["background.js"]
    },
    "minimum_chrome_version":"22.0.0"
    }
    """

    background_js = """
    var config = {
        mode: "fixed_servers",
        rules: {
        singleProxy: {
            scheme: "http",
            host: "%s",
            port: parseInt(%s)
        },
        bypassList: ["localhost"]
        }
    };

    chrome.proxy.settings.set({value: config, scope: "regular"}, function() {});

    function callbackFn(details) {
        return {
            authCredentials: {
            username: "%s",
            password: "%s"
            }
        };
    }

    chrome.webRequest.onAuthRequired.addListener(
            callbackFn,
            {urls: ["<all_urls>"]},
            ['blocking']
    );
    """ % (PROXY_HOST, PROXY_PORT, PROXY_USER, PROXY_PASS)


    def get_chromedriver(use_proxy=True, user_agent=USER_AGENT):
        path = os.path.dirname(os.path.abspath(__file__))
        chrome_options = webdriver.ChromeOptions()
        if use_proxy:
            pluginfile = 'proxy_auth_plugin.zip'
            with zipfile.ZipFile(pluginfile, 'w') as zp:
                zp.writestr("manifest.json", manifest_json)
                zp.writestr("background.js", background_js)
            chrome_options.add_extension(pluginfile)
        if user_agent:
            chrome_options.add_argument('--user-agent=%s' % USER_AGENT)
        driver = webdriver.Chrome(
            os.path.join(path, 'chromedriver'),
            chrome_options=chrome_options)
        return driver

    driver = get_chromedriver(use_proxy=True)
    # driver.get('https://www.google.com/search?q=my+ip+address')
    driver.get('https://httpbin.org/ip')


user_agent = 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/86.0.4240.198 Safari/537.36'
create_chromedriver('192.168.3.2', 8080, 'user', 'pass', user_agent)

Function get_chromedriver返回已配置的 selenium web 驅動程序，您可以在您的應用程序中使用該驅動程序。 此代碼已經過測試並且工作正常。

要將此實現到您自己的代碼中，只需調用 function create_chromedriver並使用主機、端口、用戶、通行證和用戶代理作為參數。 如果您不想使用代理或用戶代理，只需相應地編輯get_chromedriver以使參數為假。

Answer 2

@luke-hamilton 您可以通過這樣的擴展配置經過身份驗證的代理，如果您包含此選項，則可以無頭運行

chrome_options.add_argument("--headless=chrome")