创建新的 Dataflow Pub/Sub 到 BigQuery 模板时,可以指定 PubSub 主题
。似乎无法提供现有的 PubSub 订阅
,而是 Dataflow 模板每次运行时都会创建一个新订阅。
据我了解 PubSub 模型,确保我们继续从主题中同一位置读取数据的唯一方法是重用相同的订阅,但这里似乎没有这样的选项。
当用户想要重新部署这样的数据流模板时会发生什么?我们会丢失部署之间的所有数据吗?
最佳答案
你是对的,Google 提供的 Pub/Sub 到 BigQuery 模板不支持将订阅作为参数传递( here 是 Google 员工确认这一点的旧答案)。然而,编辑它应该很容易,这样它就可以实现。您只需要替换 getInputTopic
与 getSubscription
等效。反过来,这应该传递给 PubsubIO.readMessagesWithAttributes().fromSubscription
(options.getSubscription())
方法(请参阅 here )而不是 fromTopic
。创建新管道后,您需要创建并暂存 template .
关于google-cloud-dataflow - Google Cloud Pub/Sub 到 BigQuery 模板主题订阅,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/52383323/