amazon-web-services - 使用过滤器模式解析 cloudwatch 日志

Question

我在通过邮件收到的 cloudwatch 中有这行 lambda 函数日志:

 /aws/lambda/sns-function | 2017/01/10/[$LATEST]425d9138c8d54ab57l0766ba74fdfd4p | 2017-01-10T00:04:30.734Z | 2017-01-10 00:04:30,734 :: ERROR :: error creating /tmp/tmpkRWp3S_20170110/file20170115.tar.gz: Command `['/bin/tar', '--create', '-z', '--file', u'/tmp/tmpkRWp3S_20170110/file20170115.tar.gz', '--', './']' returned non-zero exit status 1

如本 doc 中所述我想放置过滤器模式以仅获取重要数据。对我来说，我只想获取一次日期，因为在上面的行中，我有两次此信息: 2017-01-10T00:04:30.734Z我尝试使用这样的模式:

[...,timestamp,level,message=*ERROR*,...]

但我收到了这个错误:

2017-01-17 10:45:58,091 :: ERROR :: logGroup: '/aws/lambda/sns-function' - logStream: 'None'
2017-01-17 10:45:58,091 :: ERROR :: An error occurred (InvalidParameterException) when calling the FilterLogEvents operation: Duplicate field '...'

如何解析日志以获取一次日期？

Answer 1

指标过滤器可帮助您搜索和匹配日志事件中的术语、短语或值。他们不要删除 来自日志事件的值(您的情况下的时间戳)。您可以修改脚本以从输出中排除时间戳(因为它已包含在内)。

此外，您正在对以空格分隔的日志事件使用指标过滤器。您的分隔符似乎是 :: ，这在这种情况下不起作用。指标过滤器会将其解释为单个字段。如果要使用此指标过滤器，可以将每个字段括在方括号中 []或两个双引号 "" .

例如，您可以使用此模式 [timestamp, result=ERROR, message, exit_status=*1*]对于以下日志事件:

[2017-01-10 00:04:30,734] [ERROR] "error creating /tmp/tmpkRWp3S_20170110/file20170115.tar.gz: Command `['/bin/tar', '--create', '-z', '--file', u'/tmp/tmpkRWp3S_20170110/file20170115.tar.gz', '--', './']' returned non-zero" "exit status 1"

注意 : 报错的原因是省略号 …在模式中应该只出现一次。