gpt4 book ai didi

hadoop - reducer 被调用了多少次

转载 作者:可可西里 更新时间:2023-11-01 14:49:40 27 4
gpt4 key购买 nike

我只想知道 reducer 在 map reduce 程序中被调用了多少次。我所知道的是映射器的数量等于输入拆分的数量,即对于每个输入拆分 1 个映射器运行并且每个映射器的 o/p 被传递给 reducer,所以它被一个一个地传递或者它得到所有一次处理数据并处理该数据(减少数据),所以我只想知道 reducer 的流程或工作。

最佳答案

reducer 通常为每个唯一键调用一次,但您可以指定一个 GrouperComparator(例如,用于二次排序),然后 reducer 将为每组键调用一次,由 GrouperComparator 确定。

虽然日志消息似乎暗示在映射器全部完成之前减少步骤开始,但在所有映射器完成之前不会调用 reducer 。

关于hadoop - reducer 被调用了多少次,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/27621452/

27 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com