python - BigQuery 结果以 block 形式传输到 Panda DataFrame

标签 python pandas google-bigquery

我正在尝试使用 bigquery.Client.query.to_dataframe()

将 BigQuery 查询的结果保存到 Panda DataFrame

这个查询可以返回数百万行。

鉴于 Panda to BQ (Dataframe.to_gbq()) 有一个 block 参数,BQ to Pandas 是否有类似的东西可以增量添加到数据帧,而不必多次运行查询限制和偏移量?

最佳答案

您可以使用 to_dataframe_iterable 来代替。

job = client.query(query)
result = job.result(page_size=20)

for df in result.to_dataframe_iterable():
    # df will have at most 20 rows
    print(df)

关于python - BigQuery 结果以 block 形式传输到 Panda DataFrame,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/60454846/

相关文章:

python - Pandas - update() 创建 "random"值?

python - 如何修复 pandas to_sql 追加不追加 2000 项中的一项?

python - 类型错误 : unsupported format string when printing Pandas dataframe with incorrectly shaped index

python - 提取美元金额

python - 如何在 python flask 应用程序中安全地共享全局变量(缓存的公共(public)证书)

google-bigquery - BigQuery 中的 percent_rank() 有条件地仅包含某些行

google-bigquery - SQL Workbench/J 和 BigQuery

python - 谷歌 BigQuery 安装

python - 从列表中制作图像

python - 使用 python pandas 数据框的 Groupby 而不扩展列名