cost 262 ms
无法在 Airflow 中的自定义运算符中通过 xcom - Unable to pass xcom in Custom Operators in Airflow

我有一个简单的线性 DAG(使用 Airflow 2.0 创建)有两个任务。 我为扩展BaseOperator的每个任务都有自定义运算符。 以下是 dag 和操作符的代码:- 当我运行 DAG 时,我发现用于获取xcom值的context是空的。 我在stackoverflow上搜索了很多答案,并 ...

Airflow 2.0.0+ - 将动态生成的字典传递给由 TriggerDagRunOperator 触发的 DAG - Airflow 2.0.0+ - Pass a Dynamically Generated Dictionary to DAG Triggered by TriggerDagRunOperator

以前,我使用TriggerDagRunOperator的python_callable参数来动态更改传递给新触发的 DAG 的 dag_run_obj 有效负载。 由于它在 Airflow 2.0.0 中被删除(拉取请求: https://github.com/apache/airflow/pul ...

Airflow 2.0.2:Dag 无法正确渲染模板 - Airflow 2.0.2: Dag doesn't render correctly the template

我有两个简单的任务,一个是获取 id 列表,另一个必须使用 echo 命令显示 id 列表。 xcom push 的结果似乎是正确的。 我有一个元组列表,如下所示。 返回函数(xcom push)的output是一个元组列表,如下: 这是我的代码: 由于这个错误,我的最后一项任务失败了,我不明白为 ...

Airflow 2.0.2 如何使用xcom在postgres任务中传递参数? - Airflow 2.0.2 How to pass parameter within postgres tasks using xcom?

我正在尝试以动态方式传递 postgres 运算符中的参数。 为了刷新元数据,有两个任务, 获取 id 列表 (get_query_id_task) 传递 id 列表以获取并执行查询 (get_query_text_task) Xcom push 返回查询列表如下: 我使用插件来渲染 xcom ...

如何在 Airflow 运算符中应用 Python 函数超过 Airflow XCom_pull 值 - How to apply Python Functions over Airflow XCom_pull value within Airflow Operator

我有一个要求,我需要通过 Airflow SQLsensor 运算符捕获 XCOM 响应并应用一些 python 命令来更改数据格式。 我的代码如下: - 我从代码"{{ (ti.xcom_pull(key='id_list', task_ids=['hook_task'])).str() }}"收 ...

airflow - 在 KubernetesPodOperator 中动态更改命名空间 - airflow - dynamically change namespace in KubernetesPodOperator

我在 kubernetes 上运行 airflow 1.10.13 并试图找到一种方法来动态更改我运行任务的命名空间。 我尝试使用模板并从 dag_run.conf json 中插入参数,但模板仅在“cmds”中呈现,而不在命名空间等其他任务字段中呈现。 我很想找到一个解决方案(使用模板或任何其他方 ...

如何在 BashOperator 执行的 python 脚本文件中使用 Xcom - How to use Xcom within python script file executed by BashOperator

我正在使用 Bash 运算符执行 python 脚本文件,如下所示: 在 python 文件中,如果在循环中满足条件,我想向 xcom 发送一个值,例如: 由于它处于循环中,并且我希望它在达到 2 后继续,所以我不能使用return 。 我尝试过: 但在这两种情况下,我都会收到类似NameErro ...

使用 xom_pull() 在两个 SimpleHttpOperators 之间传递信息 - Pass Information between two SimpleHttpOperators with xom_pull()

我对 airflow 相当陌生,我目前正试图在我的 SimpleHttpOperators 之间传递信息。 这是检索数据的地方: 然后我想在以下运算符中使用来自此的响应: 如您所见,我尝试通过request_city_information.xcom_pull(context='ti')访问响应。 ...


 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM