gpt4 book ai didi

airflow - 使用 Airflow 在另一台计算机上安排任务

转载 作者:行者123 更新时间:2023-12-02 16:10:01 26 4
gpt4 key购买 nike

我在 Ubuntu 远程服务器上成功设置了带有 Postgres 数据库的 Airflow,看起来很棒。

我能够连接到我的数据仓库(一个单独的服务器)并轻松地将查询作为任务发出。这很简单,因为安装了 Airflow 的服务器实际上正在发出查询。

由于我现在只是测试 Airflow,因此它安装在一个相当小且低功耗的服务器上。有没有办法让我安排任务在我强大的 Windows 桌面上运行?或者利用我的本地计算机下载数据/处理文件的最佳方法是什么,并且仍然让 Airflow 知道任务已成功完成?

最佳答案

Airflow 旨在支持工作负载分配。如果您运行 airflow Worker 在 Windows 计算机上执行大量数据处理,那么您可以在运行 airflow Schedulerairflow webserver< 时使用它们的计算能力 在你的小型机器上,因为这只是不断触发新任务,检查心跳并更新任务状态。为了使此设置起作用,您必须使用CeleryExecutor。我发现this blog当我第一次设置时很有用

关于airflow - 使用 Airflow 在另一台计算机上安排任务,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/42647766/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com