gpt4 book ai didi

apache-spark - spark SQL-Tungsten Aggregate 和 Tungsten Exchange 是什么意思?

转载 作者:行者123 更新时间:2023-12-04 17:57:58 24 4
gpt4 key购买 nike

我在 SparkSQL 数据帧上运行一个非常简单的 count(),这里是 Web UI 中的一些相应 DAG。

Web UI DAG

TungstenAggregateTungstenExchange 指的是什么? (谷歌搜索没有结果。)

代码:

ndata2 = sqlContext.createDataFrame(sc.textFile(filePath).map(lambda x : x.split(",")),["key","value"])
ndata2.count()

最佳答案

根据 this comment通过 zero323,

TungstenExchange is a shuffle.

不过,我还是很想知道 TungstenAggregate 是什么。

关于apache-spark - spark SQL-Tungsten Aggregate 和 Tungsten Exchange 是什么意思?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/38795557/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com