google-cloud-platform - Google Cloud Dataproc Serverless gcloud ttl 标志无法识别的参数

标签 google-cloud-platform gcloud google-cloud-dataproc google-cloud-dataproc-serverless

我正在使用运行时版本 2.1 运行 Google Cloud Dataproc Serverless Spark 批处理工作负载
该批处理在运行 4 小时后被取消

根据 Google Cloud Dataproc 无服务器指南 https://cloud.google.com/dataproc-serverless/docs/quickstarts/spark-batch#submit_a_spark_batch_workload

--ttl: You can add the --ttl flag to specify the duration of the batch lifetime. When the workload exceeds this duration, it is unconditionally terminated without waiting for ongoing work to finish. Specify the duration using a s, m, h, or d (seconds, minutes, hours, or days) suffix. The minimum value is 10 minutes (10m), and the maximum value is 14 days (14d).
1.1 or 2.0 runtime batches: If --ttl is not specified for a 1.1 or 2.0 runtime batch workload, the workload is allowed to run until it exits naturally (or run forever if it does not exit).
2.1+ runtime batches: If --ttl is not specified for a 2.1 or later runtime batch workload, it defaults to 4h.

我尝试添加 --ttl 标志,但出现错误

ERROR: (gcloud.dataproc.batches.submit.spark) unrecognized arguments: --ttl=6h

示例 gcloud dataproc batches submit spark --version=2.1 --region=us-east4 --subnet=$subnet --service-account=$service_account --jars=file:///usr/lib/spark/examples/jars/spark-examples.jar --class=org.apache.spark.examples.SparkPi --ttl=6h -- 1000

我希望指定批处理生命周期的持续时间。

最佳答案

回答我自己的问题
在 @John Hanley 评论后(感谢您的提示!),我检查了 gcloud 版本,即 Google Cloud SDK 383.0.1 alpha 2022.04.26 beta 2022.04.26 bq 2.0.74 bundled-python3-unix 3.8.11 core 2022.04.26 gsutil 5.9
我尝试在另一个终端中使用 gcloud 版本 Google Cloud SDK 418.0.0 运行该批处理 阿尔法 2023.02.13 测试版 2023.02.13 bq 2.0.85 捆绑-python3-unix 3.9.16 核心 2023.02.13 gcloud-crc32c 1.0.0 gsutil 5.20,这次成功了。
我认为在较新的 gcloud 版本中添加了 --ttl 标志。

关于google-cloud-platform - Google Cloud Dataproc Serverless gcloud ttl 标志无法识别的参数,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/77624632/

相关文章:

google-cloud-platform - 如何将谷歌云构建步骤文本输出保存到文件

parameters - 在 google dataproc 上执行 Pig 作业时,如何使用 params 标志来表示多个以逗号分隔的值?

google-cloud-dataproc - 需要有关 dataproc 镜像版本 1.5.54 的信息

java - 谷歌云数据处理中谷歌 JDBC 驱动程序的 ClassNotFoundException

session - 显示 Spanner 数据库上打开的 session 数

google-bigquery - Apache 光束 : Update BigQuery table row with BigQueryIO

kubernetes - 如何找到用于 gitlab 集成的 gcloud Kubernetes api url

google-cloud-platform - 运行时错误: Error building custom image

google-cloud-platform - Google Cloud Platform IAM,我没有收到成员(member)邀请函

node.js - 小型 Node.js 应用程序 Pod 的 GKE CPU 不足