gpt4 book ai didi

java - 仅在 Mapper 作业上写入值

转载 作者:行者123 更新时间:2023-12-02 21:58:10 29 4
gpt4 key购买 nike

我目前正在做一个 MapReduce 作业,我只使用没有 reducer 的映射器。我不需要写出 key ,因为我只需要存储在数组中的值并希望将其写出作为我的最终输出文件。如何在 Hadoop 上实现这一点?我只对只写出值感兴趣,而不是将键和值都写入输出。这些值在一个数组中。谢谢

public void pfor(TestFor pfor,LongWritable key, Text value, Context context, int times) throws IOException, InterruptedException{
int n = 0;
while(n < times){
pfor.pforMap(key,value, context);
n++;
}
for(int i =0;i<uv.length; i++){
LOG.info(uv[i].get() + " Final output");
}
IntArrayWritable edge = new IntArrayWritable();
edge.set(uv);
context.write(new IntWritable(java.lang.Math.abs(randGen.nextInt())), edge);
uv= null;
}

最佳答案

使用NullWritable作为值(value)并将你的“边缘”作为关键。

https://hadoop.apache.org/docs/stable/api/org/apache/hadoop/io/NullWritable.html

关于java - 仅在 Mapper 作业上写入值,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/6679946/

29 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com