gpt4 book ai didi

hadoop - mapreduce中的单个reducer是否需要分区?

转载 作者:行者123 更新时间:2023-12-02 20:35:06 25 4
gpt4 key购买 nike

我刚刚开始学习hadoop。我了解到,Partitioner决定应将鞭状键值对发送给哪个缩减器。我的问题是,如果只有一个 reducer ,就需要分区器吗?

我在stackover流本身中看到了类似的问题,但是我仍然无法理解答案。

最佳答案

是的,当有多个化简器时,通过计算mapout键或在自定义分区键中定义的默认哈希函数,分区器会将映射输出的键值对重定向到特定的化简器。如果只有一个化简器,尽管存在Partitioner,所有键值都将转移到同一个化简器中。默认的分区程序始终存在于mapreducer流中。

关于hadoop - mapreduce中的单个reducer是否需要分区?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/51463015/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com