gpt4 book ai didi

hadoop - 如何从HDFS的目录结构中删除所有文件?

转载 作者:行者123 更新时间:2023-12-02 20:33:36 27 4
gpt4 key购买 nike

我正在寻找清理环境。我想递归执行以下命令,而无需对每个子文件夹进行硬编码。因为我在HDFS目录中有数百个子文件夹。

hadoop fs -rm -r /a/b1/c1/d1.txt

hadoop fs -rm -r /a/b2/c2/d2.txt

hadoop fs -rm -r /a/b3/c3/d3.txt

hadoop fs -rm -r /a/bn/cn/dn.txt

我要删除所有文件,但不删除目录或子目录。我不确定如何使用递归命令将目录结构保留在HDFS中,同时删除其中的所有文件。

最佳答案

hadoop fs -ls -R /directory/structure/ | grep "\.json" | awk '{print $8}' | xargs -I{} hadoop fs -rm "{}"

关于hadoop - 如何从HDFS的目录结构中删除所有文件?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/52120810/

27 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com