java - 如何从字符串列表数据集创建字符串数据集 Spark Java

Question

我有一个字符串列表数据集，我需要从上面创建一个新的数据集，将列表的每个条目作为新数据集中的一行。

List<String> list = new ArrayList("abc", "def", "ghi");

Dataset<String> input = spark.createDataset(list,Encoders.bean(String.class));

新数据集如下:

"abc
def
ghi"

Answer 1

您可以使用 flatmap 将字符串列表转换为单个字符串。//flatMap 每行到行中的单词

JavaRDD<String> words = input.toJavaRDD().flatMap(s -> Arrays.asList(s.split(",")).iterator());