gpt4 book ai didi

scala - 如何将Array [Row]转换为DataFrame

转载 作者:行者123 更新时间:2023-12-04 10:15:10 25 4
gpt4 key购买 nike

如何将这一行转换为数据框?

val oneRowDF = myDF.first // gives Array[Row]

谢谢

最佳答案

在我的回答中,df1是一个DataFrame [text:string,y:int],仅用于测试-val df1 = sc.parallelize(List("a", 1")).toDF("text", "y")

val schema = StructType(
StructField("text", StringType, false) ::
StructField("y", IntegerType, false) :: Nil)
val arr = df1.head(3); // Array[Row]
val dfFromArray = sqlContext.createDataFrame(sparkContext.parallelize(arr), schema);

您还可以映射并行化数组并强制转换每一行:
val dfFromArray = sparkContext.parallelize(arr).map(row => (row.getString(0), row.getInt(1)))
.toDF("text", "y");

如果是一行,则可以运行:
val dfFromArray = sparkContext.parallelize(Seq(row)).map(row => (row.getString(0), row.getInt(1)))
.toDF("text", "y");

在Spark 2.0中,请使用SparkSession而不是SQLContext。

关于scala - 如何将Array [Row]转换为DataFrame,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/40800920/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com