python - Airflow :为每个文件运行 DAG 的正确方法-6ren

python - Airflow :为每个文件运行 DAG 的正确方法

转载作者：行者123 更新时间：2023-12-03 16:22:18

26

4

我有以下任务要解决:

Files are being sent at irregular times through an endpoint and stored locally. I need to trigger a DAG run for each of these files. For each file the same tasks will be performed

总体流程如下:对于每个文件，运行任务 A->B->C->D

正在批量处理文件。虽然这项任务对我来说似乎微不足道，但我找到了几种方法来做到这一点，我很困惑哪一个是“合适的”(如果有的话)。

第一种模式:使用实验性 REST API 来触发 dag。

也就是说，公开一个 Web 服务，它接收请求和文件，将其存储到一个文件夹中，并使用 experimental REST api通过将 file_id 作为 conf 传递来触发 DAG

缺点 :REST apis 仍然是实验性的，不确定 Airflow 如何处理一次有许多请求的负载测试(这不应该发生，但是，如果发生了怎么办？)

第二种模式:2 dags。一种使用 TriggerDagOperator 感知和触发，一种处理。

始终使用与之前描述的相同的 ws，但这次它只是存储文件。然后我们有:

第一个 dag:使用 FileSensor 和 TriggerDagOperator 来触发给定 N 个文件的 N 个 dag

第二个目标:任务 A->B->C

缺点 :需要避免将相同的文件发送到两个不同的 DAG 运行。
例子:

文件夹 x.json 中的文件
传感器找到 x，触发 DAG (1)

传感器返回并重新安排。如果 DAG (1) 未处理/移动文件，则传感器 DAG 可能会使用相同的文件重新安排新的 DAG 运行。这是不需要的。

第三种模式:对于文件中的文件，任务 A->B->C

如 this question 中所见.

缺点 :这可以工作，但是我不喜欢的是 UI 可能会变得一团糟，因为每次 DAG 运行看起来都不一样，但它会随着正在处理的文件数量而变化。此外，如果有 1000 个文件要处理，运行可能会很难阅读

第四种模式:使用 subdags

我还不确定它们是如何完全工作的，正如我所看到的 they are not encouraged (最后)，但是应该可以为每个文件生成一个 subdag 并让它运行。类似于 this question .

缺点 :似乎 subdags 只能与顺序执行器一起使用。

我是否遗漏了一些东西并过度思考了(在我看来)应该非常直接的东西？谢谢

最佳答案

我知道我迟到了，但我会选择第二种模式:“2 dags。一个使用 TriggerDagOperator 感知和触发，一个进程”，因为:

每个文件都可以并行执行

第一个 DAG 可以选择要处理的文件，重命名它(添加后缀“_processing”或将其移动到处理文件夹)

如果我是贵公司的新开发人员，我打开工作流，我想了解工作流的逻辑是什么，而不是上次动态构建时处理了哪些文件

如果 dag 2, 发现文件有问题，则将其重命名(使用“_error”后缀或将其移动到错误文件夹)

这是一种无需创建任何额外运算符即可处理文件的标准方法

它使 de DAG 具有幂等性且更易于测试。更多信息在此 article

重命名和/或移动文件是在每个 ETL 中处理文件的非常标准的方法。

对了，我一直推荐这篇文章 https://medium.com/bluecore-engineering/were-all-using-airflow-wrong-and-how-to-fix-it-a56f14cb0753 .它没有

关于python - Airflow :为每个文件运行 DAG 的正确方法，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/60082546/

26

4

0

文章推荐： amazon-web-services - S3静态网站/蓝绿部署

文章推荐：在 R 中运行 foreach 而不返回任何值

Ruby 方法() 方法
我想了解 Ruby 方法 methods() 是如何工作的。我尝试使用“ruby 方法”在 Google 上搜索，但这不是我需要的。我也看过 ruby-doc.org，但我没有找到这种方法。
VBS教程：方法-Test 方法
Test 方法对指定的字符串执行一个正则表达式搜索，并返回一个 Boolean 值指示是否找到匹配的模式。 object.Test(string) 参数 object 必选项。总是一个
VBS教程：方法-Replace 方法
Replace 方法替换在正则表达式查找中找到的文本。 object.Replace(string1, string2) 参数 object 必选项。总是一个 RegExp 对象的名称。
VBS教程：方法-Raise 方法
Raise 方法生成运行时错误 object.Raise(number, source, description, helpfile, helpcontext) 参数 object 应为
VBS教程：方法-Execute 方法
Execute 方法对指定的字符串执行正则表达式搜索。 object.Execute(string) 参数 object 必选项。总是一个 RegExp 对象的名称。 string
VBS教程：方法-Clear 方法
Clear 方法清除 Err 对象的所有属性设置。 object.Clear object 应为 Err 对象的名称。说明在错误处理后，使用 Clear 显式地清除 Err 对象。此
VBS教程：方法-CopyFile 方法
CopyFile 方法将一个或多个文件从某位置复制到另一位置。 object.CopyFile source, destination[, overwrite] 参数 object 必选
VBS教程：方法-Copy 方法
Copy 方法将指定的文件或文件夹从某位置复制到另一位置。 object.Copy destination[, overwrite] 参数 object 必选项。应为 File 或 F
VBS教程：方法-Close 方法
Close 方法关闭打开的 TextStream 文件。 object.Close object 应为 TextStream 对象的名称。说明下面例子举例说明如何使用 Close 方
VBS教程：方法-BuildPath 方法
BuildPath 方法向现有路径后添加名称。 object.BuildPath(path, name) 参数 object 必选项。应为 FileSystemObject 对象的名称
VBS教程：方法-GetFolder 方法
GetFolder 方法返回与指定的路径中某文件夹相应的 Folder 对象。 object.GetFolder(folderspec) 参数 object 必选项。应为 FileSy
VBS教程：方法-GetFileName 方法
GetFileName 方法返回指定路径（不是指定驱动器路径部分）的最后一个文件或文件夹。 object.GetFileName(pathspec) 参数 object 必选项。应为
VBS教程：方法-GetFile 方法
GetFile 方法返回与指定路径中某文件相应的 File 对象。 object.GetFile(filespec) 参数 object 必选项。应为 FileSystemObject
VBS教程：方法-GetExtensionName 方法
GetExtensionName 方法返回字符串，该字符串包含路径最后一个组成部分的扩展名。 object.GetExtensionName(path) 参数 object 必选项。应
VBS教程：方法-GetDriveName 方法
GetDriveName 方法返回包含指定路径中驱动器名的字符串。 object.GetDriveName(path) 参数 object 必选项。应为 FileSystemObjec
VBS教程：方法-GetDrive 方法
GetDrive 方法返回与指定的路径中驱动器相对应的 Drive 对象。 object.GetDrive drivespec 参数 object 必选项。应为 FileSystemO
VBS教程：方法-GetBaseName 方法
GetBaseName 方法返回字符串，其中包含文件的基本名 (不带扩展名), 或者提供的路径说明中的文件夹。 object.GetBaseName(path) 参数 object 必
VBS教程：方法-GetAbsolutePathName 方法
GetAbsolutePathName 方法从提供的指定路径中返回完整且含义明确的路径。 object.GetAbsolutePathName(pathspec) 参数 object
VBS教程：方法-FolderExists 方法
FolderExists 方法如果指定的文件夹存在，则返回 True；否则返回 False。 object.FolderExists(folderspec) 参数 object 必选项
VBS教程：方法-FileExists 方法
FileExists 方法如果指定的文件存在返回 True；否则返回 False。 object.FileExists(filespec) 参数 object 必选项。应为 FileS

首页

博学

6Ren·AI

商城

python - Airflow :为每个文件运行 DAG 的正确方法