google-cloud-platform - 用于云存储传输的 BigQuery 数据传输服务是否可以使用 Terraform 实现?

标签 google-cloud-platform google-bigquery terraform gcs

这更多的是关于可能性的问题,因为 GCP 上没有与此相关的文档。 我正在使用 BigQuery DTS 将 CSV 从 GCS 存储桶移动到 BQ 表。我已经手动尝试过并且它可以工作,但我需要它背后的一些自动化,并且希望使用 Terraform 来实现它。 我已经检查过此链接,但它并没有完全帮助: https://registry.terraform.io/providers/hashicorp/google/latest/docs/resources/bigquery_data_transfer_config

如有任何帮助,我们将不胜感激。谢谢!

最佳答案

我认为问题是文档没有列出参数。这是一个例子。与API进行比较。

https://cloud.google.com/bigquery-transfer/docs/cloud-storage-transfer#bq

resource "google_bigquery_data_transfer_config" "sample" {
  display_name           = "sample"
  location               = "asia-northeast1"
  data_source_id         = "google_cloud_storage"
  schedule               = "every day 10:00"
  destination_dataset_id = "target_dataset"
  params = {
    data_path_template              = "gs://target_bucket/*"
    destination_table_name_template = "target_table"
    file_format                      = "CSV"
    write_disposition               = "MIRROR"
    max_bad_records                 = 0
    ignore_unknown_values           = "false"
    field_delimiter                  = ","
    skip_leading_rows               = "1"
    allow_quoted_newlines           = "false"
    allow_jagged_rows               = "false"
    delete_source_files              = "false"
  }
}

关于google-cloud-platform - 用于云存储传输的 BigQuery 数据传输服务是否可以使用 Terraform 实现?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/70281902/

相关文章:

google-cloud-platform - 云数据融合与 Dataproc

docker - Google Cloud Platform中的预定自动缩放作业

google-bigquery - 错误 : No matching signature for operator = for argument types: STRUCT<id STRING, 名称 STRING>,STRING。支持的签名:ANY = ANY [4:7]

bash - 在 Gitlab CI 管道中的每个环境使用不同的 Azure 订阅 ID

google-cloud-messaging - Google PubSub 错误 [代码=8a75]

windows-7-x64 - 谷歌云 SDK gcloud 错误

google-cloud-platform - 部署云功能时谷歌Bigquery导入错误

sql - 是否有任何 VSCode 扩展可以连接到 BigQuery?

amazon-web-services - Terraform 通过重新执行相同的 main.tf 创建多个 vpc

terraform - 从模块访问 list(object) 类型的 for_each 变量