在 the docs据说 AWS 默认为每个 ETL 作业分配 10 个 DPU,每个开发端点默认分配 5 个 DPU,即使两者都可以配置至少 2 个 DPU。
还提到 Crawling 也是按秒递增定价的,最少运行 10 分钟,但没有指定分配了多少 DPU。可以在 Glue 控制台中配置 Jobs 和 Development Endpoints 以消耗更少的 DPU,但我还没有看到爬虫的任何此类配置。
每个爬虫的 DPU 数量是否固定?我们能控制这个数量吗?
最佳答案
也与 AWS 支持团队讨论过,目前无法修改或查看 Glue - 爬虫的 DPU 配置详细信息。但是,爬虫使用 DPU 吗?
关于amazon-web-services - 如何监控和控制 AWS Glue Crawler 中的 DPU 使用情况,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/49161251/