gpt4 book ai didi

java - reducer 在储存之前的处理结果

转载 作者:行者123 更新时间:2023-12-02 21:47:38 25 4
gpt4 key购买 nike

我正在尝试编写一个HBase MapReduce作业,该作业将产生HBase表的前10个用户。

使用以下的Reducer,

class Top10usersReducer extends Reducer<Text, IntWritable, Text, TreeMap<Text,IntWritable>  {

public static final byte[] CF = "infos".getBytes();
public static final byte[] COUNT = "count".getBytes();
static TreeMap<Text,IntWritable> map = new TreeMap<Text,IntWritable>();

public void reduce(Text key, Iterable<IntWritable> values, Context context) throws IOException, InterruptedException {

int sum = 0;

for (IntWritable val : values) {
sum += val.get();
}
map.put(key, new IntWritable(sum));
context.write(null,map);

}
}

我有此输出,每条记录存储在一行中:
id11841=4,id11993=8,id12493=6,id12592=2,id12706=7,id12871=1,id12990=3,id13092=10,id13528=5,id13580=9 

我想要这样的结果:
id13092=10,id13580=9,id11993=8,id12706=7,id12493=6,id13528=5,id11841=4,id12990=3,id12592=2,id12871=1

请问,为了实现该目标,对添加到Reducer的哪个流程有任何想法?

最佳答案

执行的MR作业按键对输出进行排序。因此,如果要按值对 reducer 的输出进行排序,则需要编写另一个MR作业。

关于java - reducer 在储存之前的处理结果,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/23828393/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com