我无法从使用 CloudFlare 的网站上抓取数据。 我总是收到 urllib.error.HTTPError: HTTP Error 503: Service Temporarily Unavailable 您能告诉我如何通过 CloudFlare 保护吗?
from bs4 import BeautifulSoup
from urllib.request import Request, urlopen
#Website url was changed to ####, because it is secret
url = '#######'
hdr = {'User-Agent': 'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.11 (KHTML, like Gecko) Chrome/23.0.1271.64 Safari/537.11',
'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8',
'Accept-Charset': 'ISO-8859-1,utf-8;q=0.7,*;q=0.3',
'Accept-Encoding': 'none',
'Accept-Language': 'en-US,en;q=0.8',
'Connection': 'keep-alive'}
req = Request(url,headers=hdr)
page = urlopen(req)
soup = BeautifulSoup(page, "lxml")
print(soup)
请您解释一下每一步
最佳答案
有时,即使 urllib 不起作用,请求也会起作用。
import requests
import bs4
url = ... a secret
page = requests.get(url).content
soup = bs4.BeautifulSoup(page, 'lxml')
如果这不起作用,那么我会尝试selenium。 StackOverflow 上有大量有关如何使用它的示例。我无法提供建议,因为我没有您想要使用的网址。
关于python - 从具有 CloudFlare 的网站中抓取(BeautifulSoup,请求),我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/45334163/