apache-kafka - Kafka 连接教程停止工作

Question

我按照此链接执行步骤 #7(使用 Kafka Connect 导入/导出数据):

http://kafka.apache.org/documentation.html#quickstart

在我删除“test.txt”文件之前，它运行良好。主要是因为 log4j 文件就是这样工作的。一段时间后，文件将被旋转 - 我的意思是 - 它将被重命名，并且将开始写入具有相同名称的新文件。

但在我删除“test.txt”之后，连接器停止工作。我重新启动了连接器、代理、zookeeper 等，但“test.txt”中的新行不会转到“connect-test”主题，因此不会转到“test.sink.txt”文件。

我该如何解决这个问题？

Answer 1

连接器保留其“从文件读取的最后位置”的选项卡，因此，如果在读取文件时崩溃，它可以从中断处继续。

问题是您删除了文件而没有将偏移量重置为 0，因此它基本上看不到任何新数据，因为它等待新数据从头开始的特定字符数开始显示...

重置偏移量的解决方法。如果您在独立模式下使用 connect，则偏移量默认存储在/tmp/connect.offsets 中，只需从那里删除它们即可。

从长远来看，我们需要一个更好的文件连接器:)