gpt4 book ai didi

apache-kafka - Kafka 了解相关消息何时被消费

转载 作者:行者123 更新时间:2023-12-03 16:20:27 27 4
gpt4 key购买 nike

在 Kafka 中,有没有办法在消费了几个相关消息后生成消息? (无需在应用程序代码中手动控制它...)
用例是选择一个大文件,将其分成几个块,为主题中的每个块发布一条消息,一旦所有这些消息都被消耗掉,就会产生另一条消息,通知另一个主题的结果。
我们可以使用数据库或 REDIS 来控制状态,但我想知道是否有任何仅利用 Kafka 生态系统的更高级别的方法。

最佳答案

方法如下:

  • 消费完每个块后,应用程序应生成带有状态(已消费和块号)的消息
  • 第二个应用程序(一次 Kafka Streams)应该聚合结果,并且当所有块的处理消息产生最终消息时,该文件被处理。
  • 关于apache-kafka - Kafka 了解相关消息何时被消费,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/63852025/

    27 4 0
    Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
    广告合作:1813099741@qq.com 6ren.com