gpt4 book ai didi

apache-kafka - debezium 无法使用 postgres 11 和默认插件 pgoutput 访问文件 "decoderbufs"

转载 作者:行者123 更新时间:2023-12-03 15:33:20 26 4
gpt4 key购买 nike

我是 kafka 的新手,我正在尝试使用 debezium postgres 连接器。
但即使使用带有标准插件的 postgres 11 版,我也会收到此错误:
org.apache.kafka.connect.errors.ConnectException:org.postgresql.util.PSQLException:错误:无法访问文件“decoderbufs”:没有这样的文件或目录

要运行 kafka/debezium,我使用了 fast-data-dev docker 的图像,如下所示

  # this is our kafka cluster.
kafka-cluster:
image: landoop/fast-data-dev:latest
environment:
ADV_HOST: 127.0.0.1 # Change to 192.168.99.100 if using Docker Toolbox
RUNTESTS: 0 # Disable Running tests so the cluster starts faster
ports:
- 2181:2181 # Zookeeper
- 3030:3030 # Landoop UI
- 8081-8083:8081-8083 # REST Proxy, Schema Registry, Kafka Connect ports
- 9581-9585:9581-9585 # JMX Ports
- 9092:9092 # Kafka Broker

运行后,我可以打开我的 localhost: 3030 来选择 debezium 连接器,我是这样配置的:

enter image description here

我在 11.5 版中使用 aws postgres rds
看了几篇使用wal2json的教程,但是在rds.extensions中没有找到,也没有看到添加的方法。无论如何,从版本 10 开始,debezium 可以使用 pgoutput 并且显然不需要配置。

rds.logical_replication 属性设置为 1
执行 SHOW wal_level 时;在终端我看到它返回逻辑
在文档中说你必须设置 max_wal_senders = 1 和 max_replication_slots = 1
放入 rds,最小 is 5, so I left the default that 是 10

我没有定义角色 REPLICATION 因为根据我在 rds 中的理解,没有办法

在这张图片中你可以看到使用的版本是 11.5

enter image description here

但我收到错误,如下所示

enter image description here

最佳答案

您尚未在您已经弄清楚的 Debezium connector properties 中将 "plugin.name" 属性设置为 "pgoutput"。但是这个答案是为那些不知道在哪里设置这个选项的人准备的,为了更清楚。
在以下连接器属性中:
enter image description here
由于您尚未设置 plugin.name 选项,它采用默认值,即decoderbufs,这就是您收到以下错误的原因:
enter image description here
"plugin.name" 明确设置为 "pgoutput" 应该可以解决问题。

{ 
"connector.class": "io.debezium.connector.postgresql.PostgresConnector",
"database.user": "postgres",
"database.dbname": "xxxxx",
"tasks.max": "1",
"database.hostname": "xxxx.rds.amazonaws.com",
"database.password": "xxxx",
"database.server.name": "database-1",
"database.port": "5432",
"plugin.name": "pgoutput" --> this property
}

关于apache-kafka - debezium 无法使用 postgres 11 和默认插件 pgoutput 访问文件 "decoderbufs",我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/59978213/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com