gpt4 book ai didi

MapReduce Input/OutPut 为每个键值对发出

转载 作者:行者123 更新时间:2023-12-02 05:31:26 27 4
gpt4 key购买 nike

MapReduce 传递和发出键值对的基本信息。我需要弄清楚我们传递的是什么,发出的是什么。这是我的担忧:MapReduce 输入和输出:

1.Map() 方法——它接受单个键值对还是键值对列表并发出什么?2.对于每个输入的键值对,映射器发出什么?相同类型还是不同类型?3.对于每个中间键,reducer 会发出什么?有类型限制吗?4.Reducer 接收与相同键相关联的所有值。如何对值进行排序,如排序或轨道排序?该顺序是否因运行而异?5.在洗牌和排序阶段,键和值以什么顺序呈现?

最佳答案

  • 对于每个输入 k1, v1 映射发出零个或多个 k2, v2。
  • 对于每个 k2 reducer 接收 k2,list(v1,v3,v4..)。
  • 对于每个输入 k2,list(v) reducer 可以发出零个或多个 k3,v3。

值在步骤 2 中任意排序。Key, value - mapper 和 reducer 的输出应该是相同的类型,即所有的键必须是相同的类型,所有的值必须是相同的类型。

关于MapReduce Input/OutPut 为每个键值对发出,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/12311350/

27 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com