python - scrapy 可以像 Selenium 一样控制和显示浏览器吗?

标签 python selenium scrapy

当我使用 Selenium 时,我可以看到浏览器 GUI,是否可以使用 scrapy 或 scrapy 严格基于命令行?

最佳答案

不,scrapy 不支持。

Scrapy是为网络爬虫设计的,而Selenium是为浏览器自动化测试而设计的。如果您为网络爬虫的每个请求打开一个浏览器,将会消耗大量资源。

如果您打算抓取动态内容,可以引用这里:Can scrapy be used to scrape dynamic content from websites that are using AJAX?

关于python - scrapy 可以像 Selenium 一样控制和显示浏览器吗?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/33510814/

相关文章:

python - python 中 unicode 字符串的补充代码点

python - 如何使用 xarray 选择跨年期间?

java - 无需等待 Selenium 即可快速断言元素不存在

java - Testng 6.9.10 assertEquals() 没有像它应该的那样失败

python - scrapyd 安装后找不到 Scrapyd-deploy 命令

python - 如何使用 Sphinx 链接到 str 方法?

python - 规范化 Unicode

javascript - 使用 Python 单击 Selenium 中的 javascript 链接不起作用

python - scrapy python将start_urls从spider传递到管道

mysql - Scrapy selenium 中间件内存泄漏