- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
应用概述:
接受来自客户端的日志的提取服务。处理日志,然后将其推送到Kafka。由于这些日志非常重要,我无法承受同样的损失,因此我决定采用相同的交易记录。
文档状态:
通过设置生产者实例来配置交易
transactional.id为应用程序唯一的标识符。这个编号
将用于隔离应用程序先前实例中的过时事务,通常>发生中断或崩溃后。
我正在应用程序的开头生成一个静态事务ID。这意味着在多次调用该API时(对于不同的进程同时),将使用相同的事务ID。这是否会导致多个进程按顺序生成数据?
这是正确的方法吗?如果没有,我该如何改善呢?
最佳答案
通过Kafka中的幂等性和交易,您可以在Kafka中获得一次保证。但似乎您需要至少一次保证。它保证了日志消息不会丢失,但可以重复。
为了启用此保证,您需要在生产者中设置 acks=all
。只要您向kafka生成内容,只要一个同步副本处于 Activity 状态,就不会丢失任何数据。
我以前处理过关键日志,而设置了acks=all
的Kafka从来都不是问题。在进入Kafka的域之前,生产者中的数据已经丢失。
也许我误解了您的问题,如果真是这样,请告诉我。
关于go - 我们如何在运行Kafka Confluent Golang中多个进程的应用程序上管理事务ID?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/62890215/
我已经在 https://docs.confluent.io/current/quickstart/ce-docker-quickstart.html 的帮助下使用 docker 在我的 Window
说明页面显示为:- 安装 Confluent Cloud CLI运行此命令以安装 Confluent Cloud CLI。curl -L --http1.1 https://cnfl.io/cclou
以下内容基于此处的快速入门指南:http://docs.confluent.io/current/cp-docker-images/docs/quickstart.html 在那里,他们在自己的 do
我们计划将 AWS MSK 服务用于 Managed Kafka 和 Schema Registry 以及来自 Confluent 的 Kafka Connect 服务来运行我们的连接器(Elasti
我正在使用 Confluent 管理的 Kafka 集群、Schema Registry 服务并尝试在 Flink 作业中处理 Debezium 消息。该作业配置为使用 Table & SQL Con
confluent control center 没有启动。 我执行了以下命令来启动 Confluent 平台 Zookeeper 开始(1 号航站楼) Kafka 启动(2 号航站楼) Schema
目前,我将Maven与io.fabric8 docker-maven-plugin一起使用,以自动启动Kafka和ZooKeeper。这是我当前的配置,可以正常工作: 2181 12
应用概述: 接受来自客户端的日志的提取服务。处理日志,然后将其推送到Kafka。由于这些日志非常重要,我无法承受同样的损失,因此我决定采用相同的交易记录。 文档状态: 通过设置生产者实例来配置交易 t
我正在寻找安装融合模式注册表的选项,是否可以单独下载和安装注册表并使其与现有的 kafka 设置一起使用? 谢谢 最佳答案 假设您已经运行了 Zookeeper/Kafka,您可以通过运行以下命令使用
我想将 kafka 日志文件移动到 hadoop 日志文件。所以我遵循 HDFS 连接器配置 /quickstart-hdfs.properties name=hdfs-sink connector.
社区,您能帮我理解为什么 ~3% 的消息没有在 HDFS 中结束吗?我用 JAVA 编写了一个简单的生成器来生成 1000 万条消息。 public static final String TEST_
我是 kafka 的新手并且很流畅。我写了一个与 https://www.confluent.fr/blog/schema-registry-avro-in-spring-boot-applicati
有人能帮我理解融合控制中心时间线上的红色条纹是什么意思吗? 最佳答案 红色条纹表示在处理监控数据时遇到了丢失或重复的拦截器记录。文档描述了这种行为: It’s also possible for me
我正在使用 confluent 连接我的数据库和 ES,因为出现异常: org.apache.kafka.connect.errors.DataException: STRUCT is not sup
我正在使用 confluentinc/cp-kafka Docker 镜像在本地运行 Kafka,我正在设置以下日志记录容器环境变量: KAFKA_LOG4J_ROOT_LOGLEVEL: ERROR
我正在查看 Apache Kafka v2.0.0,我无法弄清楚它支持哪个版本的 java(OpenJDK 或 Oracle JDK 的新生命周期)?到目前为止,我看到了相互矛盾的文档。例如:在 Ap
我正在运行 AWS linux 服务器 (centOS 7.x) 中试用开源 Confluent 平台。在以 root 身份在 oss(开源版本)版本上执行 yum install 后,可以很直接地使
我尝试在以下位置运行 kafka-streams 示例:https://github.com/confluentinc/examples/tree/master/kafka-streams 分支“ka
我想问一下我在Mac OS Mojave上安装confluent golang kafka客户端的问题。 为什么安装golang kafka客户端时总是报错 go get -u github.com/
我正在使用 python 3.7 和 confluent-kafka。 以下是我用来轮询 kafka 服务器并读取消息的伪代码。 while True: MSG
我是一名优秀的程序员,十分优秀!