apache-flink - 如何在 Flink 中对 String DataStream 执行 timeWindow()？

Question

我想在 Apache Flink 中制作流数据的时间窗口。我的数据看起来有点像这样:

1> {52,"mokshda",84.85}
2> {1,"kavita",26.16}
2> {131,"nidhi",178.9}
3> {2,"poorvi",22.97}
4> {115,"saheba",110.41}

每 20 秒，我想要所有行的分数总和(最后一列，例如 Mokshda 的分数是 84.85)。 timeWindow() 函数在 KeyedStream 上运行，因此我必须 keyBy() 这个 DataStream。我可以按卷号键入它(第一列，例如 Mokshda 的 52)。

val windowedStream = stockStream
                        .keyBy(0)
                        .timeWindow(Time.seconds(20))
                        .sum(2)

但很明显，Flink 并没有将我的数据作为列表读取。它将它作为字符串读取，因此，我得到以下异常:

Exception in thread "main" org.apache.flink.api.common.InvalidProgramException: Specifying keys via field positions is only valid for tuple data types. Type: String

如何对 String 数据执行 timeWindow，或者如何将此数据转换为 Tuple？

Answer 1

您可以转换 DataStream[String]成DataStream[(Int, String, Double)]使用 MapFunction[String, (Int, String, Double)]它将字符串解析为其组件，转换数据类型并发出 Tuple .

您也可以申请 timeWindowAll在非键控数据流上。然而，语义当然是不同的，一个 AllWindow 只能用并行度 1 处理。