java - 在 Apache Beam 上确认 Google Pub/Sub 消息

Question

我正在尝试使用以下代码从发布/订阅中读取

Read<String> pubsub = PubsubIO.<String>read().topic("projects/<projectId>/topics/<topic>").subscription("projects/<projectId>/subscriptions/<subscription>").withCoder(StringUtf8Coder.of()).withAttributes(new SimpleFunction<PubsubMessage,String>() {
    @Override
    public String apply(PubsubMessage input) {
        LOG.info("hola " + input.getAttributeMap());
        return new String(input.getMessage());
    }
});
PCollection<String> pps = p.apply(pubsub)
        .apply(
                Window.<String>into(
                    FixedWindows.of(Duration.standardSeconds(15))));
pps.apply("printdata",ParDo.of(new DoFn<String, String>() {
    @ProcessElement
    public void processElement(ProcessContext c) {
        LOG.info("hola amigo "+c.element());
        c.output(c.element());
    }
  }));

与我在 NodeJS 上收到的消息相比，我得到的消息将包含在 data 字段中。我怎样才能得到 ackId 字段(稍后我可以用它来确认消息)？我正在打印的属性图是 null。有没有其他方法可以确认所有消息而不必弄清楚 ackId？

Answer 1

PubsubIO 阅读器负责确认消息。它与运行者的检查点行为有关。具体来说，只有当生成的元素已被检查点时，源才会确认消息。

在这种情况下，您应该查看 Flink 运行器检查点何时通知该源的状态。我认为这与检查点频率的 Flink 配置有关。