gpt4 book ai didi

hadoop fs -rm -skipTrash 不起作用

转载 作者:可可西里 更新时间:2023-11-01 14:48:16 26 4
gpt4 key购买 nike

我使用以下方法将一些文件从一个目录复制到另一个目录

hadoop distcp -Dmapreduce.job.queuename=adhoc /user/comverse/data/$CURRENT_DATE_NO_DASH_*/*rcr.gz /apps/hive/warehouse/arstel.db/fair_usage/fct_evkuzmin04/file_rcr/

我在 scipt 完成之前停止了它,剩下很多 .distcp.tmp.attempt 和完成移动到 dst 目录中的文件

现在我想清理 dst 目录。运行后

hadoop fs -rm -skipTrash /apps/hive/warehouse/arstel.db/fair_usage/fct_evkuzmin04/file_mta/*

大部分文件都被删除了,但有些文件仍然存在(至少 HUE 显示的是这样)。奇怪的是,每次我运行hadoop fs -rm -skipTrash,根据HUE,剩余文件的数量会或多或少地变化。

我试过了

hadoop fs -ls /apps/hive/warehouse/arstel.db/fair_usage/fct_evkuzmin04/file_mta/

看到一些应该删除的文件还在。然后我跑

hadoop fs -rm -skipTrash /apps/hive/warehouse/arstel.db/fair_usage/fct_evkuzmin04/file_mta/*

十几次,总是有更多的文件要删除(还有)。发生了什么事?

还有

每次我刷新 hue 页面时,文件数量都会增加。哈尔普。

编辑

似乎在命令行中停止 distcp 实际上并没有终止工作。这就是原因。

最佳答案

你可以使用这个 “-R”:

这会从您的 hdfs 位置删除所有文件。

hadoop fs -rm -R -skipTrash /apps/hive/warehouse/arstel.db/fair_usage/fct_evkuzmin04/file_mta/*

关于hadoop fs -rm -skipTrash 不起作用,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/45595049/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com