gpt4 book ai didi

python - 如何在 Python 脚本中触发 Airflow DAG 运行?

转载 作者:行者123 更新时间:2023-12-03 15:48:42 36 4
gpt4 key购买 nike

使用 apache Airflow ,我创建了一些 DAGS,其中一些不按计划运行。
我正在尝试找到一种方法,可以从 Python 脚本中触发特定 DAG 的运行。这可能吗?我能怎么做?

编辑 --- python 脚本将从与我所有 DAGS 所在的项目不同的项目中运行

最佳答案

在触发 Airflow DAG 运行时,您有多种选择。
使用 Python
Airflow python 包提供了一个 local client您可以用于从 python 脚本中触发 dag。例如:

from airflow.api.client.local_client import Client

c = Client(None, None)
c.trigger_dag(dag_id='test_dag_id', run_id='test_run_id', conf={})
使用 Airflow CLI
您可以使用 Airflow CLI 手动触发 Airflow 中的 dag。有关如何使用 CLI 触发 DAG 的更多信息,请访问 here .
使用 Airflow REST API
您还可以使用 Airflow REST api 来触发 DAG 运行。更多信息 here .

python 中的第一个选项可能最适合你(这也是我个人过去的做法)。但理论上你可以使用 subprocess从 python 或类似 requests 的库与 CLI 交互从 Python 中与 REST API 交互。

关于python - 如何在 Python 脚本中触发 Airflow DAG 运行?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/60055151/

36 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com