apache-beam - Golang 中有 Apache Beam + Cloud Bigtable 连接器吗?

标签 apache-beam bigtable google-cloud-bigtable apache-beam-io

有没有办法访问存储在 Cloud Bigtable 中的数据作为运行 Apache Beam 管道的输入源?

最佳答案

目前还没有为 Bigtable 编写的 Apache Beam Go SDK IO。

人们可以将它们基于现有的 IO(例如 BigQueryIO ),但在 Go SDK 和运行器都支持可移植工作分割之前,将会出现扩展问题,特别是初始读取时的序列化问题。该项目正在进行中,但尚未确定准备就绪的时间表。

另一个即将推出的解决方案是“跨语言 IO”,它将允许 SDK 使用其他语言的 IO(特别是让 Python 和 Go 使用已经经过生产化的 Java IO)。

目前,我们几乎没有花时间来开发/测试 Go SDK IO,并且不保证它们的可靠性、适合性或完成度。

关于apache-beam - Golang 中有 Apache Beam + Cloud Bigtable 连接器吗?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/56047579/

相关文章:

java - Apache Beam 管道从 csv 文件读取、拆分、groupbyKey 并写入文本文件时出现 "IllegalStateException"错误。为什么?

python - 如何在 Apache Beam/Google 数据流中将大窗口缩小为较小的窗口?

bigtable - 如果所有值都被垃圾收集,是否会自动删除一行?

google-cloud-dataflow - 为什么 Dataflow-BigTable 连接器不支持增量?

google-cloud-bigtable - Google Cloud Bigtable 上的 TTL

google-cloud-bigtable - 是否删除Bigtable中放入的掩码?

sql - 在 Google Dataflow 上使用 JdbcIO 的吞吐量非常低

google-cloud-platform - 如何计算Google Dataflow文件处理的输入文件中的行数?

sql-server - 每天3000万条记录,SQL Server跟不上,需要其他类型的数据库系统吗?

kubernetes - 使用HTTP POST将OpenTSDB写入Bigtable不起作用(使用Kubernetes(