amazon-web-services - 如何监控和控制 AWS Glue Crawler 中的 DPU 使用情况

标签 amazon-web-services aws-glue

the docs据说 AWS 默认为每个 ETL 作业分配 10 个 DPU,每个开发端点默认分配 5 个 DPU,即使两者都可以配置至少 2 个 DPU。

还提到 Crawling 也是按秒递增定价的,最少运行 10 分钟,但没有指定分配了多少 DPU。可以在 Glue 控制台中配置 Jobs 和 Development Endpoints 以消耗更少的 DPU,但我还没有看到爬虫的任何此类配置。

每个爬虫的 DPU 数量是否固定?我们能控制这个数量吗?

最佳答案

也与 AWS 支持团队讨论过,目前无法修改或查看 Glue - 爬虫的 DPU 配置详细信息。但是,爬虫使用 DPU 吗?

关于amazon-web-services - 如何监控和控制 AWS Glue Crawler 中的 DPU 使用情况,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/49161251/

相关文章:

amazon-web-services - 是否可以选择性地将 Recipe 与 Knife Bootstrap 同步?

amazon-web-services - AWS Glue 的 CI/CD 管道

pyspark - 胶水 AWS : error occurred while calling o60. getDynamicFrame

python - Aurora 目标的 AWS Glue 前操作和后操作未执行

amazon-web-services - Cassandra 2021 目前建议的最大存储空间是多少?

ios - cognito - 禁止访问身份

amazon-web-services - 如何调试由 CircleCI 编排的 Serverless 生成的 CloudFormation 模板

amazon-web-services - 堆栈构建超时构建 ECS 服务

amazon-web-services - 哪些选项可以传递给 AWS Glue DynamicFrame.toDF()?

scala - 如何结束或失败 AWS Glue 作业并出现错误?