gpt4 book ai didi

apache-kafka - 主题级别的kafka偏移量和日志保留配置

转载 作者:行者123 更新时间:2023-12-05 03:08:56 25 4
gpt4 key购买 nike

我们有一个包含 5 个分区的主题。我们正在根据 key 的校验和定义分区。在某些情况下,没有 key 解析到分区 3,因此没有提交。因此,在配置的偏移量保留天数之后,消费者当前偏移量开始显示未知。我们需要解决这个问题,因此认为我们必须在主题级别设置日志和偏移量保留。在配置中,我看到我们有 config:retention.ms 用于日志保留但没有找到相应的偏移量保留配置。有人可以帮忙吗?

编辑:bin/kafka-topics.sh --zookeeper XXX --alter --topic XXXX --config retention.ms=86400000

上面用于设置特定主题的日志保留时间。但是我们如何在查询中指定偏移量保留。

最佳答案

所有消费者和所有主题的 promise 消费者偏移量都存储在一个内部“__consumer_offsets”主题中。因此,恐怕您无法针对每个主题单独控制偏移量保留。

注意。我发现当您的主题分区之一长时间没有消息时,这可能会出现问题。

我发现以下票证可以提供帮助: https://issues.apache.org/jira/browse/KAFKA-3806

第一条评论建议即使在消费者没有取得任何进展(给定分区没有新消息到达)的情况下也提交偏移量,以避免这个确切的问题:

you would want to keep committing the offsets even though they are not changing

关于apache-kafka - 主题级别的kafka偏移量和日志保留配置,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/44363976/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com