gpt4 book ai didi

apache-kafka - 当停止一个消费者并立即启动它时,消费者组需要大约 10 秒的时间来重新平衡

转载 作者:行者123 更新时间:2023-12-04 05:13:45 33 4
gpt4 key购买 nike

<强>1。问题描述

如果停止一个消费者并立即启动这个消费者,消费者组需要大约 10 秒的时间来重新平衡。

但是如果停止一个consumer等待10s左右,然后再启动那个consumer,就不会出现这个问题。

<强>2。环境

kakfa-version:0.11.0.1

<强>3。演示

  1. Producer1Demo.java(Producer-A发送消息到topic:topic1)
  2. Producer2Demo.java(Producer-B发送消息到topic:topic2)
  3. Consumer1Demo.java(Consumer-A 从topic:topic1 获取消息)
  4. Consumer2Demo.java(Consumer-B 从topic:topic2 获取消息)

Consumer-A和Consumer-B在同组group1,生产者代码如下

 public static void main(String[] args) throws Exception{
Properties props = new Properties();
props.put("bootstrap.servers", "ip:9092");
props.put("acks", "all");
props.put("retries", 0);
props.put("batch.size", 16384);
props.put("linger.ms", 1);
props.put("buffer.memory", 33554432);
props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer");
props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer");
Producer<String, String> producer = new KafkaProducer<>(props);
boolean flag = true;
int i = 0;
while(flag){
if(i>=1000){
flag = false;
}
producer.send(new ProducerRecord("topic1", "topic<1>-"+ i));
i++;
Thread.sleep(1000);
}
producer.close();
}

消费者代码如下

 public static void main(String []args){
Properties props = new Properties();
props.put("bootstrap.servers", "ip:9092");
props.put("group.id", "group1");
props.put("enable.auto.commit", "true");
props.put("auto.commit.interval.ms", "1000");
props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
KafkaConsumer<String, String> consumer = new KafkaConsumer<>(props);
consumer.subscribe(Arrays.asList("topic1"));
boolean flag = true;
while (flag) {
ConsumerRecords<String, String> records = consumer.poll(100);
for (ConsumerRecord<String, String> record : records)
System.out.printf("offset = %d, key = %s, value = %s%n", record.offset(), record.key(), record.value());
}
consumer.close();
}

4.如何重现这个问题

  1. 首先启动上面四个java的main方法,然后,Consumer-A和Consumer-B可以从他们对应的主题中获取消息不断地
  2. 然后,我停止 Consumer1Demo.java 的进程并启动Consumer1Demo.java的main方法立即执行,Consumer-B会bock for大约 10 秒后重新加入组 group1,下面是 Consumer-A 的日志日志:


Discovered coordinator 10.105.168.92:9092 (id: 2147483646 rack: null) for group group1.
Revoking previously assigned partitions [] for group group1
(Re-)joining group group1
<will sleep about 10s>
Successfully joined group group1 with generation 52
Setting newly assigned partitions [topic1-0, topic1-1, topic1-6, topic1-7, topic1-2, topic1-3, topic1-4, topic1-5] for group group1

消费者-B的日志
Revoking previously assigned partitions [topic2-0, topic2-1, topic2-2, topic2-7, topic2-3, topic2-4, topic2-5, topic2-6] for group group1
(Re-)joining group group1
<will sleep about 10s>
Successfully joined group group1 with generation 52
Setting newly assigned partitions [topic2-0, topic2-1, topic2-2, topic2-7, topic2-3, topic2-4, topic2-5, topic2-6] for group group1
offset = 215, key = null, value = testMessageTopic<2>-318

通过log我们可以看到,Consumer-A和Consumer-B加入group也需要10秒左右的时间,看来他们都需要得到generation same value:52,这一步好像耗费了10 秒。

5.如何避免这个问题。

  1. 首先,停止 Consumer-A 进程,等待大约 15 秒,然后,启动Consumer1Demo.java main启动Consumer-A,这个问题就解决了。
  2. 然后我们来分析日志。

<5.2.1>在做step1之前,Consumer-A和Consumer-B的generation value也是63<5.2.2>停止Consumer-A进程后,Consumer-B会立即重新加入群组并获得生成值:64

<5.2.3>等待约15秒后,再次启动Consumer1Demo.java main。 Consumer-A会立即重新加入群组并获得生成值:65

<5.2.4>那么,Consumer-A再次加入导致生成值发生变化时,Consumer-B也会重新加入生成值为65的group。

5.根本原因

  1. 当一个消费者宕机时,消费者群体会重新平衡并获得新的消费者生成值(oldValue + 1)
  2. 当一个consumer启动时,consumber group也会做rebalance并得到新生代值(value)(oldValue + 1)

在这种情况下,似乎step5.1和step5.2同时发生,所以可能存在资源竞争,因此协调器可能需要10秒才能解决问题。

6.我的问题

不知道我分析的对不对,还有别的原因吗?

最佳答案

因为两个consumer1和consumer2在同一个consumer group中,当重启或停止其中一个consumer时,consumer group会做do rebalance操作,耗时10s左右。

换了不同的消费组后,问题解决了。

关于apache-kafka - 当停止一个消费者并立即启动它时,消费者组需要大约 10 秒的时间来重新平衡,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/48436228/

33 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com