python - 如何使用 google api 抓取数据

Question

import requests

def search(query, pages=4, rsz=8):
    url = 'https://ajax.googleapis.com/ajax/services/search/web'
    params = {
        'v': 1.0,     # Version
        'q': query,   # Query string
        'rsz': rsz,   # Result set size - max 8
    }

    for s in range(0, pages*rsz+1, rsz):
        params['start'] = s
        r = requests.get(url, params=params)
        for result in r.json()['responseData']['results']:
            yield result

在最初的 2,3 次尝试中，它正在检索所有需要的页面，但在 2,3 次尝试之后，它没有得到任何结果。它返回“无”或 []。尝试几次后，谷歌会阻止我的 IP 吗？有什么解决办法吗？

Answer 1

我不确定这是否有效，但避免被不鼓励抓取的网站阻止的唯一方法是在检索网页时使用代理。 请检查如何在您的代码中使用代理。