sql-server - Kafka 连接 CDC 到 MS SQL sourceOffset 异常

Question

我们正在使用 Confluent MS SQL CDC 连接器，连接描述符是:

curl -X POST -H \
  "Content-Type: application/json" --data '{
    "name" : "yury-mssql-cdc1",
    "config" : {
      "connector.class" : "io.confluent.connect.cdc.mssql.MsSqlSourceConnector",
      "tasks.max" : "1",
      "initial.database" : "test2",
      "username" : "user",
      "password" : "pass",
      "server.name" : "some-server.eu-west-1.rds.amazonaws.com",
      "server.port" : "1433",
      "change.tracking.tables" : "dbo.foobar"
    }
  }' \
   http://ip-10-0-0-24.eu-west-1.compute.internal:8083/connectors

整个基础设施都部署在 AWS 上......异常(exception)是:

查询 ChangeKey 时抛出 ERROR 异常

{databaseName=test2, schemaName=dbo, tableName=foobar} (io.confluent.connect.cdc.mssql.QueryService:94) java.lang.NullPointerException: sourceOffset cannot be null.

如有任何帮助，我们将不胜感激。

Answer 1

我找到了答案，我认为问题出在 SQL Server CDC 的配置方式上。我们不应该使用设置 CDC 的旧方法(EXEC sys.sp_cdc_enable_db 和 EXEC sys.sp_cdc_enable_table)

改为使用以下命令配置 SQL Server CDC

ALTER DATABASE [数据库名称] SET CHANGE_TRACKING = ON (CHANGE_RETENTION = 2 DAYS, AUTO_CLEANUP = ON)去更改数据库 [数据库名称] 设置 ALLOW_SNAPSHOT_ISOLATION ON去ALTER TABLE [表格名称] ENABLE CHANGE_TRACKING WITH (TRACK_COLUMNS_UPDATED = ON)开始