作者热门文章
- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
在将RDD写入文件之前立即执行以下转换时,它们之间有什么区别?
val input = sc.textFile(inputFile)
val filtered = input.filter(doSomeFiltering)
val mapped = filtered.map(doSomeMapping)
mapped.coalesce(1, shuffle = true).saveAsTextFile(outputFile)
vs
mapped.coalesce(1, shuffle = false).saveAsTextFile(outputFile)
最佳答案
shuffle = true和shuffle = false不会在结果输出中产生任何实际差异,因为它们都将下降到单个分区。但是,将其设置为true时,将进行无用的随机播放。使用shuffle = true时,输出均匀地分布在各个分区之间(如果需要,您还可以增加分区的数量),但是由于目标是1个分区,因此所有结果最终都将集中在一个分区中。
至于与collect()的比较,区别在于所有数据都存储在单个执行程序上,而不是存储在驱动程序上。
关于scala - Apache Spark中的混洗与非混洗合并,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/30899710/
我是一名优秀的程序员,十分优秀!