airflow - 删除 Airflow 任务日志

标签 airflow

我正在运行 5 个 DAG,它们在 base_log_folder 中总共生成了大约 6GB 的日志数据。一个多月的时间。我刚刚添加了一个 remote_base_log_folder但似乎不排除登录到 base_log_folder .

无论如何,是否可以自动删除旧日志文件,旋转它们或强制 Airflow 仅在远程存储中不登录磁盘(base_log_folder)?

最佳答案

请引用https://github.com/teamclairvoyant/airflow-maintenance-dags

该插件具有可以终止暂停任务和日志清理的 DAG。
您可以掌握这些概念,并提出一个新的 DAG,可以根据您的要求进行清理。

关于airflow - 删除 Airflow 任务日志,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/43548744/

相关文章:

google-cloud-platform - MWAA 中的 apache-airflow-providers-google

python - Airflow 1.9.0 ExternalTask​​Sensor retry_delay=30 产生 TypeError : can't pickle _thread. RLock 对象

google-bigquery - 如何使用 Airflow 的 BigQuery 运算符引用外部 SQL 文件?

python-3.x - Airflow 日志 BrokenPipeException

python - Airflow 网络服务器获取值错误 :Samesite

google-cloud-platform - mysql-connector-python 8.0.33 要求 protobuf<=3.20.3,>=3.11.0,但你有 protobuf 4.23.1

airflow - 如何记录 Airflow DAG 的输出以进行调试?

google-cloud-platform - 如何使用部署在 GCP Cloud Composer 上的 Airflow Stable Rest API [Airflow version 2.0.0]

python - Airflow :如何将 xcom 从父 dag 传递到 subdag

airflow - Airflow Upgrade_check 命令损坏。输出 "Please install apache-airflow-upgrade-check distribution from PyPI to perform upgrade checks"