gpt4 book ai didi

apache-kafka - Apache Kafka 隔离不同的生产者

转载 作者:行者123 更新时间:2023-12-04 03:08:54 25 4
gpt4 key购买 nike

我正在开展一个项目,不同的生产者(每个生产者由另一个客户代表)可以向我的服务发送事件。

此服务负责接收这些事件并将它们存储在中间 Kafka 主题中,稍后我们将获取并处理这些事件。

问题是一个客户可以泛滥事件并影响另一个客户的事件处理,我正在尝试找到一种最佳方法来在不同客户之间创建一定程度的隔离!

到目前为止,我能够通过为每个客户创建不同的主题来解决这个问题。

虽然这个解决方案暂时解决了这个问题,但随着我们的生产者(客户)数量的增长,Kafka 似乎并不能很好地处理 100k+ 的大量主题,我们开始体验到单个代理的受控重启占用了几个小时。

谁能建议一种更好的方法来在生产者之间建立隔离级别?

最佳答案

您可以查看 Kafka 限制,这是在 Kafka 代理级别完成的。通过将生产者配置为每个拥有不同的用户/客户端 ID,您可以实现某种程度的限制(这样一个生产者就不会淹没其他生产者)。

参见 https://kafka.apache.org/documentation.html#design_quotas

关于apache-kafka - Apache Kafka 隔离不同的生产者,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/46737233/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com