gpt4 book ai didi

python - 实现等到 Airflow 中满足特定条件的有效方法

转载 作者:太空狗 更新时间:2023-10-30 02:37:55 25 4
gpt4 key购买 nike

Sensors在 Airflow 中 - 是某种类型的运算符,它们会一直运行直到满足特定条件,但它们会占用一个完整的工作槽。很好奇人们是否能够可靠地使用更有效的方法来实现这一点。

我的一些想法

  • 使用池来限制分配给传感器的工作槽数
  • 跳过下游的所有任务,然后通过外部触发器清除和恢复
  • 暂停 DAG 的运行并通过外部触发器再次恢复

其他相关链接:

最佳答案

Airflow 的新版本,即 1.10.2 为传感器提供了新的选项,我认为这解决了您的顾虑:

mode (str) – How the sensor operates. Options are: { poke | reschedule }, default is poke. When set to poke the sensor is taking up a worker slot for its whole execution time and sleeps between pokes. Use this mode if the expected runtime of the sensor is short or if a short poke interval is requried. When set to reschedule the sensor task frees the worker slot when the criteria is not yet met and it’s rescheduled at a later time. Use this mode if the expected time until the criteria is met is. The poke inteval should be more than one minute to prevent too much load on the scheduler.

这是 link做文档。

关于python - 实现等到 Airflow 中满足特定条件的有效方法,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/48701200/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com