gpt4 book ai didi

hadoop - hadoop 映射操作如何管理 HDFS 集群上的数据冗余?

转载 作者:可可西里 更新时间:2023-11-01 16:59:17 26 4
gpt4 key购买 nike

由于 hadoop 在 HDFS 上运行,并且数据在 HDFS 集群中复制以实现冗余,hadoop 映射操作实际上是否通过在集群中的不同节点上对相同数据点运行映射器而浪费大量处理器周期? (因为根据设计,节点之间有一些数据重叠,根据复制级别)。

或者首先,根据某种作业管理策略,只处理部分节点,以避免这种重复计算,以某种非常聪明的方式?

最佳答案

每个映射器都有一个单独的 InputSplit 来处理。因此,如果您有 100 个 InputSplits,则框架将生成 100 个映射器。然后每个映射器将检查它是否拥有它需要的所有数据——如果没有,它将下载所有需要的数据并开始计算。一个 InputSplit 永远不会被分配两次。

关于hadoop - hadoop 映射操作如何管理 HDFS 集群上的数据冗余?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/26554690/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com