gpt4 book ai didi

hadoop - 海量数据的内存处理引擎有什么好处?

转载 作者:可可西里 更新时间:2023-11-01 15:32:43 26 4
gpt4 key购买 nike

<分区>

如果数据集适合内存,Spark 表现最佳,如果数据集不适合,它将使用磁盘,因此它与 hadoop 一样快。假设我正在处理 Tera/Peta 字节的数据。有一个小集群。显然,没有办法将其放入内存中。我的观察是,在大数据时代,如果不是更多的话,大多数数据集都是千兆字节。

内存处理引擎的好处是什么?

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com