个人中心
文章发布
退出
作者热门文章
- html - 出于某种原因，IE8 对我的 Sass 文件中继承的 html5 CSS 不友好？
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景？
25
4
Redshift COPY 命令的文档指定了两种选择要从 S3 加载的文件的方法，您可以提供一个基本路径并加载该路径下的所有文件，或者您指定一个包含要加载的特定文件的 list 文件。
然而，在我们的案例中，我认为这很常见，S3 存储桶会定期接收包含更新数据的新文件。我们希望能够仅加载尚未加载的文件。
鉴于有一个表 STL_file_scan 记录了从 S3 加载的所有文件，最好以某种方式排除那些已成功加载的文件。这似乎是一个相当明显的功能，但我在文档或网上找不到任何关于如何执行此操作的信息。
甚至 AWS Data Pipeline 中的 Redshift S3 加载模板似乎也通过将所有数据(新的和旧的)加载到临时表，然后与目标表进行比较/更新插入来管理此场景。当我们可以从文件名中预先知道一个文件已经被加载时，这似乎是一个疯狂的开销。
我知道我们可能可以将已经加载的文件从存储桶中移出，但是我们不能这样做，这个存储桶是另一个不属于我们自己的进程的最终存储位置。
我能想到的唯一替代方法是运行其他一些进程来跟踪已成功加载到 redshift 的文件，然后定期将其与 s3 存储桶进行比较以确定差异，然后在触发复制之前将 list 文件写入某处过程。但多么痛苦啊!我们需要一个单独的 ec2 实例来运行该进程，该进程将拥有自己的管理和操作开销。
一定会有更好的办法!
最佳答案
我是这样解决问题的
S3 -- (Lambda Trigger on新创建的日志) -- Lambda -- Firehose -- Redshift
它适用于任何规模。负载越大，对 Lambda 的调用越多，向 firehose 发送的数据越多，一切都会自动处理。
如果文件格式有问题，您可以配置死信队列，事件将发送到那里，您可以在修复 lambda 后重新处理。
关于amazon-s3 - 仅将新文件从 S3 加载到 Redshift 的简单方法？，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/30240681/
25
4
0
我想了解 Ruby 方法 methods() 是如何工作的。 我尝试使用“ruby 方法”在 Google 上搜索，但这不是我需要的。 我也看过 ruby-doc.org，但我没有找到这种方法。
Test 方法 对指定的字符串执行一个正则表达式搜索，并返回一个 Boolean 值指示是否找到匹配的模式。 object.Test(string) 参数 object 必选项。总是一个
Replace 方法 替换在正则表达式查找中找到的文本。 object.Replace(string1, string2) 参数 object 必选项。总是一个 RegExp 对象的名称。
Raise 方法 生成运行时错误 object.Raise(number, source, description, helpfile, helpcontext) 参数 object 应为
Execute 方法 对指定的字符串执行正则表达式搜索。 object.Execute(string) 参数 object 必选项。总是一个 RegExp 对象的名称。 string
Clear 方法 清除 Err 对象的所有属性设置。 object.Clear object 应为 Err 对象的名称。 说明 在错误处理后，使用 Clear 显式地清除 Err 对象。此
CopyFile 方法 将一个或多个文件从某位置复制到另一位置。 object.CopyFile source, destination[, overwrite] 参数 object 必选
Copy 方法 将指定的文件或文件夹从某位置复制到另一位置。 object.Copy destination[, overwrite] 参数 object 必选项。应为 File 或 F
Close 方法 关闭打开的 TextStream 文件。 object.Close object 应为 TextStream 对象的名称。 说明 下面例子举例说明如何使用 Close 方
BuildPath 方法 向现有路径后添加名称。 object.BuildPath(path, name) 参数 object 必选项。应为 FileSystemObject 对象的名称
GetFolder 方法 返回与指定的路径中某文件夹相应的 Folder 对象。 object.GetFolder(folderspec) 参数 object 必选项。应为 FileSy
GetFileName 方法 返回指定路径（不是指定驱动器路径部分）的最后一个文件或文件夹。 object.GetFileName(pathspec) 参数 object 必选项。应为
GetFile 方法 返回与指定路径中某文件相应的 File 对象。 object.GetFile(filespec) 参数 object 必选项。应为 FileSystemObject
GetExtensionName 方法 返回字符串，该字符串包含路径最后一个组成部分的扩展名。 object.GetExtensionName(path) 参数 object 必选项。应
GetDriveName 方法 返回包含指定路径中驱动器名的字符串。 object.GetDriveName(path) 参数 object 必选项。应为 FileSystemObjec
GetDrive 方法 返回与指定的路径中驱动器相对应的 Drive 对象。 object.GetDrive drivespec 参数 object 必选项。应为 FileSystemO
GetBaseName 方法 返回字符串，其中包含文件的基本名 (不带扩展名), 或者提供的路径说明中的文件夹。 object.GetBaseName(path) 参数 object 必
GetAbsolutePathName 方法 从提供的指定路径中返回完整且含义明确的路径。 object.GetAbsolutePathName(pathspec) 参数 object
FolderExists 方法 如果指定的文件夹存在，则返回 True；否则返回 False。 object.FolderExists(folderspec) 参数 object 必选项
FileExists 方法 如果指定的文件存在返回 True；否则返回 False。 object.FileExists(filespec) 参数 object 必选项。应为 FileS
我是一名优秀的程序员,十分优秀！