作者热门文章
- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
下面是代表员工 in_date 和 out_date 的示例数据集。
我必须获得所有员工的最后一个 in_time。
Spark 在 4 Node 独立集群上运行。
初始数据集:
EmployeeID----in_date----out_date
1111111 2017-04-20 2017-09-14
1111111 2017-11-02 null
2222222 2017-09-26 2017-09-26
2222222 2017-11-28 null
3333333 2016-01-07 2016-01-20
3333333 2017-10-25 null
df.sort(col(in_date).desc())
之后的数据集:
1111111 2017-11-02 null
1111111 2017-04-20 2017-09-14
2222222 2017-09-26 2017-09-26
2222222 2017-11-28 null
3333333 2017-10-25 null
3333333 2016-01-07 2016-01-20
df.dropDup(EmployeeID):
输出 :
1111111 2017-11-02 null
2222222 2017-09-26 2017-09-26
3333333 2016-01-07 2016-01-20
预期数据集:
1111111 2017-11-02 null
2222222 2017-11-28 null
3333333 2017-10-25 null
但是当我用
sortWithInPartitions
对初始数据集进行排序时并删除了我得到了预期的数据集。
最佳答案
TL;博士 除非明确保证,否则您永远不应假设 Spark 中的操作将以任何特定顺序执行,尤其是在使用 Spark SQL 时。
你在这里缺少的是洗牌。 dropDuplicates
实现相当于:
df.groupBy(idCols).agg(first(c) for c in nonIdCols)
The above expected output was achieved when df.sort was executed with Spark in local mode.
local
模式相当简单。在完全分布式模式下,您永远不应该使用它来得出有关 Spark 内部行为的结论。
when I sorted the Initial Dataset with sortWithInPartitions and deduped I got the expected dataset.
EmployeeID
分区,这将是有意义的。 .在这种情况下,Spark 不需要额外的 shuffle。
关于apache-spark - Spark - sortWithInPartitions 排序,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/47579128/
下面是代表员工 in_date 和 out_date 的示例数据集。 我必须获得所有员工的最后一个 in_time。 Spark 在 4 Node 独立集群上运行。 初始数据集: EmployeeID
我是一名优秀的程序员,十分优秀!