gpt4 book ai didi

apache-storm - 在尊重 maxSpoutPending 的同时关闭 KafkaSpout 中的 acking

转载 作者:行者123 更新时间:2023-12-02 03:28:55 26 4
gpt4 key购买 nike

我使用的是 storm 0.9.3。我正在尝试为我的拓扑关闭每个元组的确认。我将 Config.TOPOLOGY_ACKER_EXECUTORS 设置为 0,并将 maxSpoutPending 设置为 500。当我运行我的拓扑时,我注意到 maxSpoutPending 被忽略并且 spout 继续发射远超过该限制。这是我的配置 -

config.setNumWorkers(3);
config.setMaxSpoutPending(500);
config.put("topology.sleep.spout.wait.strategy.time.ms", 50);
config.put("topology.message.timeout.secs", 300);
config.put(Config.TOPOLOGY_ACKER_EXECUTORS, 0);

我正在使用 KafkaSpout 从 Kafka 读取消息,并使用一个 bolt 来使用消息。

最佳答案

通过将 TOPOLOGY_ACKER_EXECUTORS 设置为 0,当所有元组离开 spout 时,storm 将立即确认所有元组,这可能不可靠,因为没有机制可以检查元组是否已处理或失败。< br/>并通过设置 setMaxSpoutPending 告诉 storm 在 spout 上等待处理的最大元组数。 MaxSpoutPending 不会限制您的输出。如果您想查看 Storm 拓扑的实际输出频率,请在 Storm UI 中检查正在运行的 Storm 拓扑的拓扑延迟

关于apache-storm - 在尊重 maxSpoutPending 的同时关闭 KafkaSpout 中的 acking,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/28637713/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com