gpt4 book ai didi

python - 使用 Airflow 中的另一个 dag 触发外部 dag

转载 作者:行者123 更新时间:2023-12-01 00:46:33 39 4
gpt4 key购买 nike

有调用主 dag 中不同 dags 的任务列表。我正在使用 TriggerDagrunoperator 来完成此操作。但面临一些问题。

  • TriggerDagrunoperator 不会等待外部 dag 完成,它会触发下一个任务。我希望等到完成,下一个任务应该根据状态触发。遇到了ExternalTask​​Sensor。这使得这个过程变得复杂。还有其他解决方案可以解决这个问题吗?

  • 如果我再次触发主 dag,我希望任务从失败的地方重新启动。目前,它不会重新启动,但对于基于时间的计划,它会重新启动。

最佳答案

.. I want that to wait until completion .. Came across ExternalTaskSensor. It is making the process complicated ..

我不知道有任何其他方法可以实现这一目标。我自己就是这样做的the same way .

<小时/>

If I trigger the master dag again, I want the task to restart from where it is failed...

您的这一要求违反了principle of idempotency Airflow 所要求的。我建议您尝试重新工作以纳入幂等性(例如,在重试的情况下,您必须具有幂等性)。同时您可以从 some people 中获取灵感并尝试实现类似的目标(但会非常复杂)

关于python - 使用 Airflow 中的另一个 dag 触发外部 dag,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/56937274/

39 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com