docker - 使用Docker在DC/OS上运行Airflow

标签 docker airflow dcos

我已经使用他们的流浪镜像在本地设置了DC / OS,并且我想使用DC / OS运行包含Airflow的Docker镜像,以便可以在Airflow教程中运行基本的Hello World。

这是一个相当小众的用例,在线上没有任何指南或闲聊关于此的实际实现。

简单来说,我应该怎么做呢?

最佳答案

您转到服务选项卡,单击“+”并添加任务的JSON定义:

{
  "id": "/airflow",
  "instances": 1,
  "container": {
    "type": "DOCKER",
    "volumes": [],
    "docker": {
      "image": "puckel/docker-airflow"
    },
    "portMappings": [
      {
        "containerPort": 8080,
        "hostPort": 0,
        "protocol": "tcp"
      },
      {
        "containerPort": 5555,
        "hostPort": 0,
        "protocol": "tcp"
      },
      {
        "containerPort": 8793,
        "hostPort": 0,
        "protocol": "tcp"
      }
    ]
  },
  "mem": 1024,
  "requirePorts": false,
  "networks": [
    {
      "mode": "container/bridge"
    }
  ],
  "healthChecks": [],
  "fetch": [],
  "constraints": [],
  "cpus": 1,
  "labels": {
    "DCOS_SERVICE_PORT_INDEX": "0"
  }
}

这将启动this Docker image。服务启动后,您应该可以单击服务名称旁边的图标,然后导航到Airflow UI(/service/airflow)。

注意:我对Airflow的经验为零,但这是您可以开始任何任务的一般方法。您肯定需要配置数据库等。

关于docker - 使用Docker在DC/OS上运行Airflow,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/47586858/

相关文章:

DockerHub API - 列出标签

docker - 如何通过Golang的SDK获取docker api版本?

kubernetes - Windows版Docker中Kubernetes的网络解决方案是什么?

airflow - 如何获得手动触发 DAG 的 Airflow 用户?

dcos - 无法在 Mac OSX 上安装 dcos-cli

python - 有没有办法为所有应用程序使用相同的 Docker 容器?

python - Apache Airflow 持续集成工作流和依赖管理

python - 在 TriggerDagRunOperator 中提供上下文

docker - 访问在DC/OS Marathon Pod中启动的容器

python - 加载 Python lib '/tmp/_MEItueAuk/libpython3.7m.so.1.0' : dlopen:/lib/x86_64-linux-gnu/libc. so.6 时出错:未找到版本 `GLIBC_2.28'