redis - 带有redis的 Airflow celery -6小时后超时

标签 redis airflow

我在使用 airflow 1.9.0CeleryExecutor 使用 redis 作为代理时遇到了一些问题。

我需要运行一项需要 6 个多小时才能完成的工作,而且我正在失去我的 celery worker 。 查看 GitHub 中的 Airflow 代码,有一个硬编码配置:

https://github.com/apache/incubator-airflow/blob/d760d63e1a141a43a4a43daee9abd54cf11c894b/airflow/config_templates/default_celery.py#L31

我怎样才能绕过这个问题?

最佳答案

这可以在 celery_broker_transport_options 部分下的 airflow.cfg 中配置。

查看添加此可能性的提交 https://github.com/apache/incubator-airflow/commit/be79f87f36b6b99649e0a1f6ab92b41640b3beaa

关于redis - 带有redis的 Airflow celery -6小时后超时,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/51251430/

相关文章:

在解析服务器上使用 Redis 进行缓存

bash - 在 xargs 变量上使用 sed 在 shell 扩展中不起作用

mysql - Airflow如何获取和处理mysql记录?

airflow - 更改 Airflow 的 DAG end_date

Airflow Extra Operator 链接未渲染

使用 Airflow 模块的 PythonVirtualenvOperator 无法执行,出现 AttributeError : module 'airflow' has no attribute 'utils'

java - 如何使用 Java 代码访问您的 AWS Redis 缓存实例?

lua - 如何设置 Lua 脚本在每次 LPUSH 到某个列表后运行?

redis - Mongoose redis找不到文档键

airflow - 使用DB动态生成 Airflow 任务