gpt4 book ai didi

amazon-web-services - 使用亚马逊数据管道将dynamoDB数据备份到S3

转载 作者:行者123 更新时间:2023-12-04 00:13:07 25 4
gpt4 key购买 nike

我需要使用亚马逊数据管道将我的 dynamoDB 表数据备份到 S3。

我的问题是 - 我可以使用单个数据管道将多个 dynamoDB 表备份到 S3,还是我必须为每个表创建一个单独的管道?

此外,由于我的表有一个 year_month 前缀(ex- 2014_3_tableName),我正在考虑使用数据管道 SDK 在月份更改后更改管道定义中的表名。这行得通吗?有替代/更好的方法吗??

谢谢!!

最佳答案

如果您通过 DynamoDB 控制台的导入/导出按钮设置数据管道,则必须为每个表创建一个单独的管道。如果您直接使用 Data Pipeline(通过 Data Pipeline API 或通过 Data Pipeline 控制台),则可以在同一管道中导出多个表。对于每个表,只需添加一个额外的 DynamoDBDataNode 和一个 EmrActivity 以将该数据节点链接到输出 S3DataNode。

关于您的 year_month 前缀用例,使用数据管道 sdk 定期更改表名似乎是最好的方法。另一种方法可能是复制 script that export EmrActivity is running (您可以在事件的“步骤”下看到脚本位置),而是更改配置单元脚本通过检查当前日期来确定表名的方式。您需要制作此脚本的副本并将修改后的脚本托管在您自己的 S3 存储桶中,并将 EmrActivity 指向该位置而不是默认位置。我以前没有尝试过这两种方法,但理论上两种方法都是可行的。

有关导出 DynamoDB 表的更多一般信息可以在 DynamoDB Developer Guide 中找到, 更多详细信息可以在 AWS Data Pipeline developer guide 中找到.

关于amazon-web-services - 使用亚马逊数据管道将dynamoDB数据备份到S3,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/23510704/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com