apache-spark - Spark 中的 Dataset.col() 和 functions.col() 有什么区别？

Question

这是一些声明:https://stackoverflow.com/a/45600938/4164722

Dataset.col returns resolved column while col returns unresolved column.

有人可以提供更多细节吗？我应该何时使用 Dataset.col() 以及何时使用 functions.col ？

谢谢。

Answer 1

在大多数情况下，没有实际区别。例如:

val df: Dataset[Row] = ???

df.select(df.col("foo"))
df.select(col("foo"))

是等价的，等同于:

df.where(df.col("foo") > 0)
df.where(col("foo") > 0)

当出处很重要时，差异变得很重要，例如加入:

val df1: Dataset[Row] = ???
val df2: Dataset[Row] = ???

df1.join(df2, Seq("id")).select(df1.col("foo") =!= df2.col("foo"))

因为 Dataset.col已解决并绑定(bind)到 DataFrame它允许您明确地选择从特定父级降序的列。 col 是不可能的.