python-2.7 - selenium firefox 中的 python 代理 headless 不工作

Question

我正在使用 Ubuntu Server 17.04。

我正在尝试将我的代理设置为 selenium。但它不起作用。我正在使用 https://stormproxies.com/ 的代理.基本上只有我允许的 ip 才会被允许拥有代理，然后我必须使用他们给我的 ip 来访问它。 所以基本上它不是这样的 "ip:port@user:pass"。 假设这是我正在使用的代理 ip

例子: https://123.123.123.123:13028

代理工作正常...因为我在 scrapy 中使用了它。

但不是在 selenium 中工作..我已经尝试了我找到的所有示例，但它给了我各种错误。我在想是因为这些例子已经过时了……也许吧。

我的 selenium 及其所有最新信息。我已将 geckodriver 设置为路径......以及所有内容。如果我不添加代理，Selenium 工作正常。

这些是我为所有人使用的主要进口商品。

from selenium import webdriver
from selenium.webdriver.common.proxy import *
from pyvirtualdisplay import Display

这些都是我试过的脚本。

第一个例子 它没有给我任何错误，但它没有连接到代理。当我尝试获取“https://whatismyipaddress.com”中的 ip 时，我得到了我的真实 ip，而不是代理

display = Display(visible=0, size=(1920, 1080)).start()

myProxy = "https://123.123.123.123:13028"

proxy = Proxy({
    'proxyType': ProxyType.MANUAL,
    'httpProxy': myProxy,
    'ftpProxy': myProxy,
    'sslProxy': myProxy,
    'noProxy': None
})
browser = webdriver.Firefox()
browser.get("https://whatismyipaddress.com/")

第二个例子 - 它给我这个错误:WebDriverException: Message: Process unexpectedly closed with status: 1

proxies = "123.123.123.123:13028"
prox = Proxy()
prox.proxy_type = ProxyType.MANUAL
prox.http_proxy = proxies
prox.socks_proxy = proxies
prox.ssl_proxy = proxies

capabilities = webdriver.DesiredCapabilities.FIREFOX
prox.add_to_capabilities(capabilities)

driver = webdriver.Firefox(capabilities=capabilities)

第三个例子 - 它给我这个错误:WebDriverException: Message: Process unexpectedly closed with status: 1

PROXY_PORT = '13028'
PROXY_HOST = '123.123.123.123'

fp = webdriver.FirefoxProfile()
print PROXY_PORT
print PROXY_HOST
fp.set_preference("network.proxy.type", 1)
fp.set_preference("network.proxy.http", PROXY_HOST)
fp.set_preference("network.proxy.http_port", int(PROXY_PORT))
fp.set_preference("network.proxy.https", PROXY_HOST)
fp.set_preference("network.proxy.https_port", int(PROXY_PORT))
fp.set_preference("network.proxy.ssl", PROXY_HOST)
fp.set_preference("network.proxy.ssl_port", int(PROXY_PORT))
fp.set_preference("network.proxy.ftp", PROXY_HOST)
fp.set_preference("network.proxy.ftp_port", int(PROXY_PORT))
fp.set_preference("network.proxy.socks", PROXY_HOST)
fp.set_preference("network.proxy.socks_port", int(PROXY_PORT))
fp.set_preference("general.useragent.override",
                  "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_9_3) AppleWebKit/537.75.14 (KHTML, like Gecko) Version/7.0.3 Safari/7046A194A")
fp.update_preferences()

driver = webdriver.Firefox(firefox_profile=fp)

第四个例子 - 它给了我这个错误:InvalidArgumentException: Message: null is not an array

PROXY = "123.123.123.123:13028"
webdriver.DesiredCapabilities.FIREFOX['proxy'] = {
    "httpProxy": PROXY,
    "ftpProxy": PROXY,
    "sslProxy": PROXY,
    "noProxy": None,
    "proxyType": "MANUAL",
}
driver = webdriver.Firefox()
driver.get('http://www.whatsmyip.org/')

我也用过这个例子:

第五个例子 - 它给我这个错误:WebDriverException: Message: Process unexpectedly closed with status: 1

ProxyHost = "123.123.123.123"
ProxyPort = "13028"


def ChangeProxy(ProxyHost, ProxyPort):
    "Define Firefox Profile with you ProxyHost and ProxyPort"
    profile = webdriver.FirefoxProfile()
    profile.set_preference("network.proxy.type", 1)
    profile.set_preference("network.proxy.http", ProxyHost)
    profile.set_preference("network.proxy.http_port", int(ProxyPort))
    profile.update_preferences()
    return webdriver.Firefox(firefox_profile=profile)


def FixProxy():
    # ""Reset Firefox Profile""
    profile = webdriver.FirefoxProfile()
    profile.set_preference("network.proxy.type", 0)
    return webdriver.Firefox(firefox_profile=profile)


driver = ChangeProxy(ProxyHost, ProxyPort)
driver.get("http://whatismyipaddress.com")

time.sleep(5)

driver = FixProxy()
driver.get("http://whatismyipaddress.com")

Answer 1

你只需要在初始化驱动时添加 firefox_options 元素即可。

确保您正确地(显然)导入了代理端

from selenium.webdriver.common.proxy import Proxy, ProxyType

然后像这样初始化你的驱动

options = Options()
options.add_argument("--headless")

ProxyHost = "x.x.x.x" 
ProxyPort = "8118"

def SetProxy(ProxyHost ,ProxyPort):

    profile = webdriver.FirefoxProfile()
    profile.set_preference("network.proxy.type", 1)
    profile.set_preference("network.proxy.http", ProxyHost )
    profile.set_preference("network.proxy.http_port", int(ProxyPort))
    profile.update_preferences()
    return webdriver.Firefox(firefox_profile=profile, firefox_options=options)


try:
        driver = SetProxy(ProxyHost ,ProxyPort)
        driver.get("http://x.x.x.x")
        print(driver.page_source)
        driver.close()
except:
        traceback.print_exc()
        driver.close()