docker容器中安装airflow

一次偶然的机会需要了解airflow,然后就查了下,网上说了一大堆安装的步骤,什么装Python,以及Python的一些插件,但是一大佬说可以用docker安装airflow,然后就查了下,发现使用docker安装会简单很多,而且还没什么问题。最终参考了以下这篇博客,最终完成安装:

https://blog.csdn.net/clever101/article/details/94458903

大致步骤:

创建一个文件夹

拷贝GitHub上面的项目:git clone https://github.com/puckel/docker-airflow.git /root/airflow

安装并运行airflow:docker run -d -p 8082:8080 puckel/docker-airflow

进入容器:docker exec -it containerId bash       其中containerID,就是容器的id,可以使用docker ps来查看docker容器的id

初始化容器:airflow initdb

如果出现异常:irflow.exceptions.AirflowException: Could not create Fernet object: Incorrect padding

解决办法:

python -c "from cryptography.fernet import Fernet;print(Fernet.generate_key().decode())"

然后会显示一行字符串。

然后执行:export AIRFLOW__CORE__FERNET_KEY=string

注意,这里的前两个下划线都是两个"_",最后的key前面的那个是一个“_”,然后string就是上面显示的字符串。

然后再初始化数据库:airflow initdb就OK了。

 

  • 3
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
要在 Docker 安装 Airflow,可以按照以下步骤进行操作: 1. 首先,您需要在系统上安装 Docker。您可以在 https://docs.docker.com/get-docker/ 上找到适合您操作系统的 Docker 安装指南。 2. 接下来,创建一个 Dockerfile。在这个文件,您需要指定所需的操作系统、Python 版本和其他依赖项,以及要安装Airflow 版本和其他 Python 包。以下是一个简单的 Dockerfile 示例: ``` FROM python:3.8-slim-buster RUN apt-get update && apt-get install -y \ libpq-dev \ && rm -rf /var/lib/apt/lists/* RUN pip install --upgrade pip RUN pip install apache-airflow==2.1.4 \ --constraint "https://raw.githubusercontent.com/apache/airflow/constraints-2.1.4/constraints-3.8.txt" WORKDIR /usr/local/airflow RUN useradd -ms /bin/bash -d ${AIRFLOW_HOME} airflow USER airflow CMD ["bash"] ``` 3. 在 Dockerfile 所在的目录,运行以下命令来构建 Docker 镜像: ``` docker build -t my-airflow . ``` 4. 等待镜像构建完成后,可以使用以下命令来运行 Airflow 容器: ``` docker run -it -p 8080:8080 my-airflow ``` 其,-p 参数指定了要将容器的 8080 端口映射到主机的 8080 端口,以便您可以通过浏览器访问 Airflow Web UI。 5. 如果需要在容器运行 Airflow 作业,您可以使用以下命令来启动 Airflow 调度程序: ``` docker exec -it <container-id> airflow scheduler ``` 其,<container-id> 是容器的 ID,可以通过运行以下命令来查找: ``` docker ps ``` 这样,您就可以在 Docker 安装和运行 Airflow 了。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值