apache-kafka - 如何在Kafka Connect中动态更新SinkConnector的主题？

Question

我已经为消费者主题编写了Kafka Connect，但是我的主题会在运行时发生变化，因此我需要重新配置主题。

我知道使用 RESTful API 可以更新主题还有其他方法可以实现吗？

Answer 1

Kafka Connect 旨在作为服务运行，它还支持用于管理连接器的 REST API。
在运行时通过 REST API 更新它的唯一方法:

放 /connectors/{name}/config - 在运行时更新连接器的配置参数。

Request Json Object - config(map)

{
    "connector.class": "io.confluent.connect.hdfs.HdfsSinkConnector",
    "tasks.max": "20",
    "topics": "kafkaConnectTopic",
    "hdfs.url": "hdfs://smoketest:9000",
    "hadoop.conf.dir": "/etc/hadoop/conf",
    "hadoop.home": "/etc/hadoop",
    "flush.size": "1000",
    "rotate.interval.ms": "100"
}

Response :

{
    "name": "hdfs-sink-connector",
    "config": {
        "connector.class": "io.confluent.connect.hdfs.HdfsSinkConnector",
        "tasks.max": "20",
        "topics": "kafkaConnectTopic",
        "hdfs.url": "hdfs://smoketest:9000",
        "hadoop.conf.dir": "/etc/hadoop/conf",
        "hadoop.home": "/etc/hadoop",
        "flush.size": "1000",
        "rotate.interval.ms": "100"
    },
    "tasks": [
        { "connector": "hdfs-sink-connector", "task": 1 },
        { "connector": "hdfs-sink-connector", "task": 2 },
        { "connector": "hdfs-sink-connector", "task": 3 }
   ]
}

如需进一步阅读，您可以通过 http://docs.confluent.io/3.0.0/connect/userguide.html#connect-administration .