gpt4 book ai didi

hadoop - MapReduce-生成HDFS路径

转载 作者:行者123 更新时间:2023-12-02 21:35:18 26 4
gpt4 key购买 nike

我想在我的映射器代码上生成HDFS路径。 FileSystem具有我们可以在CLI中执行的所有方法,例如put,get,mkdir等...,但是当HDFS中已经存在目录时,无法获取方法,如何在我的映射器或化简器代码中生成其路径。

我正在使用MR2 ..

谢谢。

最佳答案

input.txt读取HDFS

  public class HdfsRead {
public static void main(String[] args) throws IOException {

String uri = args[0];

Configuration conf = new Configuration();
FileSystem fs = FileSystem.get(URI.create(uri), conf);
FSDataInputStream in = null ;
try
{byte [] buffer = new byte[256];
in = fs.open(new Path(uri));
IOUtils.copyBytes(in, System.out, 4096, false);

}
finally
{
IOUtils.closeStream(in);
}
}
}

检查文件是否已存在,将其删除
FileSystem fs = FileSystem.get(conf);
Path path = new Path(args[0]);
if(fs.exists(path)){
fs.delete(path);
}

commandline argument
args[0] = "hdfs://localhost:9000/input.txt"

关于hadoop - MapReduce-生成HDFS路径,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/32756655/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com