apache-pig - 在pig中加载多个文件

Question

我是 pig 的新手。

在 Pig 中，我想加载多个文件，其名称带有时间戳。

如果我在 2012/02/12 到 2012/02/19 之间加载文件，则以下结果有效

$START = "12"
$END = "19"
raw_data = load '/table/status/2012/02/{$START,$END}' using Loader()

假设开始日期是2011/12/29，结束日期是2012/01/04，我该如何更改代码行？

感谢您的帮助!

Answer 1

可以使用以下 glob 加载您需要的范围:

raw_data = load '/table/status/{2011/12/{29,3{0,1}},2012/01/0[1-4]}' using Loader()

请注意，Pig 使用 Hadoop 的 globbing，因此您可以使用的内容取决于底层 HDFS 的版本。这在 0.20 下有效。

如果需要更复杂的范围，那么这种目录枚举方式可能有点不灵活。因此，请考虑使用 shell 脚本来收集您需要的目录，如建议的 here