gpt4 book ai didi

hadoop - 在 HDFS 中查找早于 N 天的目录

转载 作者:可可西里 更新时间:2023-11-01 14:11:38 31 4
gpt4 key购买 nike

可以使用 hadoop fs -ls 查找早于 N 天(从当前日期算起)的所有目录吗?

我正在尝试编写一个清理例程来查找和删除 HDFS 上所有在当前日期前 N 天创建的目录(匹配模式)。

最佳答案

此脚本列出所有早于 [days] 的目录:

#!/bin/bash
usage="Usage: $0 [days]"

if [ ! "$1" ]
then
echo $usage
exit 1
fi

now=$(date +%s)
hadoop fs -lsr | grep "^d" | while read f; do
dir_date=`echo $f | awk '{print $6}'`
difference=$(( ( $now - $(date -d "$dir_date" +%s) ) / (24 * 60 * 60 ) ))
if [ $difference -gt $1 ]; then
echo $f;
fi
done

关于hadoop - 在 HDFS 中查找早于 N 天的目录,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/12613848/

31 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com