python-2.7 - 如何使用笔记本执行scrapy shell "URL"

标签 python-2.7 scrapy ipython-notebook

我试图刮scrap

并且有爬取的shell“URL”命令,使用来自URL的响应对象执行控制台ipython。

但是我想用笔记本做那件事。

有什么办法可以用笔记本执行刮y的 shell ,

或如何在ipython中手动获取URL的相同响应对象?

最佳答案

偶然发现了这个没有答案的问题,寻找相同的答案。
我现在能想到的最接近的东西是:

import requests
from scrapy.http import TextResponse

r = requests.get('http://stackoverflow.com/')
response = TextResponse(r.url, body=r.text, encoding='utf-8')

然后,您可以使用xpath()之类的常用方法调试响应。

关于python-2.7 - 如何使用笔记本执行scrapy shell "URL",我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/26177620/

相关文章:

python - 为什么二级字典的值在 Python 2.7 中都指向同一个对象?

2.7版的Python星解包

Python super().__init__() 类型错误 : super() takes at least 1 argument (0 given)

python - 如何使用 Scrapy 抓取亚马逊搜索的所有结果?

python - 在 jupyter/iPython notebook 脚本和类方法之间同步代码

windows - 多处理池方法挂起但处理方法工作

python - 无法使用 pip 安装requirements.txt

python - 带有 Scrapy 的 GraphQL API

widget - 更改 IPython 笔记本小部件中标签的大小

python - iPython:无法安装笔记本。请安装 ipython-notebook