python - 使用 Python 抓取 linkedin 连接,但只显示了一些 - Selenium 和 BeautifulSoup

标签 python selenium beautifulsoup

所以标题说明了一切。我正在尝试根据我提供的搜索词来抓取连接。一旦页面呈现,所有连接都不在 html 中,就好像它们被隐藏一样,直到我向下滚动才能看到它们。有没有办法使用 Selenium 一次显示所有连接?我没有要发布的代码,因为这只是一个问题。

最佳答案

你可以使用selenium向下滚动页面,加载你想要抓取的数据。

下面的代码将滚动到页面底部:

...
driver.execute_script("window.scrollTo(0, document.body.scrollHeight);")
...

我有一个用例,我必须连续多次点击页面底部才能加载内容并获取我需要的所有数据,其中我使用了上述方法。

希望这有帮助...

关于python - 使用 Python 抓取 linkedin 连接,但只显示了一些 - Selenium 和 BeautifulSoup,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/52572392/

相关文章:

带有selenium 2的javascript下拉菜单

java - 使用 selenium webdriver 实现腻子自动化

python - 如何在Python中将很长的一行分成几行?

python - 更改 Django/Postgres db_table 名称

python - 如何在 selenium (python) 中接收子节点的内部 HTML?

python - 创建特定网站的 URL 列表

Python BeautifulSoup - Div 之间的文本

python - 使用 Beautiful Soup 从 'src' 标签中提取 'img' 属性

python - 使用日历键盘选择两个日期 Python Telegram Bot

python - 使用 python 解析 PDF 在 cssselect 上失败