amazon-web-services - 从 Kafka 读取数据到 AWS Redshift 的最佳实践

Question

将数据从 Kafka 集群移动到 Redshift 表的最佳实践是什么？
我们有连续数据到达 Kafka，我想将其写入 Redshift 中的表(不必实时)。

我应该使用 Lambda 函数吗？

我应该编写一个将在专用 EC2 实例上运行的 Redshift 连接器(消费者)吗？ (缺点是我需要处理冗余)

是否有一些 AWS 管道服务？

Answer 1

Kafka Connect 通常用于将数据从 Kafka 流式传输到(或从)数据存储。它可以做一些有用的事情，比如自动管理横向扩展、故障转移、模式、序列化等等。

This blog展示了如何使用开源 JDBC Kafka Connect 连接器流式传输到 Redshift。还有一个community Redshift connector ，但我没有试过这个。

This blog展示了另一种方法，不使用 Kafka Connect。

免责声明:我为创建 JDBC 连接器的 Confluent 工作。