gpt4 book ai didi

hadoop - Twitter Storm 对比 Apache Hadoop

转载 作者:可可西里 更新时间:2023-11-01 14:18:15 24 4
gpt4 key购买 nike

如果有人能向我解释 Twitter Storm 和 Apache Hadoop 之间的架构差异,那就太好了?我正在寻找一些超越实时与批处理的内部结构。由于这两种技术在为 Storm 编写拓扑或在 Hadoop 上进行 map-reduce 方面非常相似,在 Hadoop 的任务跟踪器/作业跟踪器和 Storm 的等效 nimbus/supervisor 方面,在 Hadoop 分区和等效洗牌(随机)方面,字段等)在 Storm 等上(如果我说 Storm 在内部使用消息队列在 spouts/bolt 之间传输数据,这与 Hadoop 的情况不完全一样,在 Hadoop 中创建中间文件并因此创建 I/O,我是否正确?涉及。)

编辑:

我已经完成了问题 Apache Storm compared to Hadoop但公认的答案让我渴望了解的不仅仅是用例,即实时与批处理。

最佳答案

主要区别在于 Storm 可以对 Tupple 流(传入数据)进行实时处理,而 Hadoop 使用 MapReduce 作业进行批处理。

它们都以分布式方式处理数据,但使用 Storm,您可以进行实时分析,而您必须等待 mapreduce 作业完成才能使用结果。

关于hadoop - Twitter Storm 对比 Apache Hadoop,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/18099234/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com