gpt4 book ai didi

hadoop - 可以同时运行多少个reducer?

转载 作者:可可西里 更新时间:2023-11-01 16:37:34 27 4
gpt4 key购买 nike

在 Uni 学习大数据,我对 MapReduce 的话题有点困惑。我想知道有多少 reducer 可以同时运行。例如,假设我们有 864 个 reducer ,有多少可以同时运行?

最佳答案

所有这些都可以同时运行,这取决于集群的状态(健康,即没有 rouge/bad 节点),集群的容量是多少以及集群的空闲程度。如果有其他 MR 作业在同一个集群上运行,那么在 864 个 reducer 中只有少数会进入运行状态,一旦容量空闲,另一组 reducer 将开始运行。

还有一种情况有时会发生,当您的 reducer/mapper 不断相互抢占并占用整个内存时。在大多数情况下,作业都失败了。为了避免这种情况,我们通常设置较少数量的 reducer 。

关于hadoop - 可以同时运行多少个reducer?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/48856257/

27 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com