具有不同 conda 环境的 Python 任务和 DAG

标签 python python-3.x anaconda conda airflow

假设 AirFlow 中的大多数 DAG 和任务都应该在与 AirFlow 服务器同一台计算机上运行 Python 代码。

我可以让不同的 DAG 使用不同的 conda 环境吗?如果是这样,我该怎么办?例如,我可以使用 Python Operator 来实现吗?或者这会限制我使用我用来安装 AirFlow 的相同 conda 环境。

更一般地说,我应该在哪里/如何理想地为每个 DAG 或任务激活所需的 conda 环境

最佳答案

运行 Airflow Worker 代码的 Python 是其环境将用于执行代码的 Python。

您可以做的是为不同工作人员的单独执行环境建立单独的命名队列,这样只有特定的机器或一组机器将执行一定的DAG。

关于具有不同 conda 环境的 Python 任务和 DAG,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/52805712/

相关文章:

python - MultiIndex 数据帧的平均值

python - 检查 python 3 支持的要求

python - 提交值后更新预览字段

python - Tweepy 未在 anaconda jupyter 上运行

python - 在 conda 环境中使用 pdb 进行调试

python - 来回循环 Python

python - 按键更新 pandas DataFrame

python - python 2.x 和 3.x 之间的多线程开销差异

python - 如何在 ptpython 控制台中读取历史记录?

python - 有没有办法让anaconda变小?