繁体   English   中英

Airflow 1.9-任务卡在队列中

[英]Airflow 1.9 - Tasks stuck in queue

从PyPy(1.9.0)安装最新的Apache-Airflow

设置包括:

  1. 阿帕奇气流
  2. Apache-Airflow [芹菜]
  3. 兔子MQ 3.7.5
  4. 芹菜4.1.1
  5. Postgres

我在3台主机上进行了安装。

主机#1

  • 气流网络服务器
  • 气流调度器
  • RabbitMQ服务器
  • Postgres服务器

主机#2

  • 气流工

主机#3

  • 气流工

我有一个简单的DAG,它执行每1分钟运行一次的BashOperator任务。 我可以看到调度程序“排队”工作,但是,它永远不会被添加到Celery / RabbitMQ队列中并被工作人员接走。 我有一个自定义RabbitMQ用户,身份验证似乎很好。 但是,Flower不会显示任何填充数据的队列。 它的确看到两个工作机在各自的队列上侦听。

我检查过的事情:

  • 气流池配置
  • 气流环境变量
  • 升级/降级芹菜和RabbitMQ
  • Postgres权限
  • RabbitMQ权限
  • 调试级别的气流日志

我阅读了有关作业未运行的文档部分。 我的“ start_date”变量是当前日期之前的静态日期。

操作系统:Centos 7

我能够弄清楚,但是我不确定为什么会这样。

解决方法是将“ broker_url”变量更改为使用“ pyamqp”而不是“ amqp”。

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM