elasticsearch - Filebeats 不转发 Docker 撰写日志，为什么？

Question

我正在关注 this tutorial设置一个 ELK 堆栈(VPS B)，它将使用 Beatfile 作为转发器接收一些 Docker/docker 组合图像日志(VPS A)，我的图表如下所示

到目前为止，我已经设法让所有带有绿色勾号的界面正常工作。但是，仍然存在一些我无法理解的问题。因此，如果有人可以帮助我解决这个问题，我将不胜感激。

我的主要问题是我没有从 VPSA 获取任何 Docker/docker-compose 日志到 VPSB 的 Filebeat 服务器；尽管如此，我还是从 VPSA 的 Filebeat 服务器上获得了其他日志，例如 rsyslog、身份验证日志等。我已经将我的 docker-compose 文件配置为使用 rsyslog 作为日志记录驱动程序转发日志，然后 filebeat 将该系统日志转发到 VPSB。到了这一步，我确实看到了来自 docker 守护进程本身的日志，例如虚拟接口(interface)启动/关闭、启动进程等，但没有看到容器本身的“调试”日志。

VPSA中Filebeat客户端的配置是这样的

root@VPSA:/etc/filebeat# cat filebeat.yml 
filebeat:
  prospectors:
    -
      paths:
        - /var/log/auth.log
        - /var/log/syslog
#        - /var/log/*.log


      input_type: log

      document_type: syslog

  registry_file: /var/lib/filebeat/registry

output:
  logstash:
    hosts: ["ipVPSB:5044"]
    bulk_max_size: 2048

    tls:
      certificate_authorities: ["/etc/pki/tls/certs/logstash-forwarder.crt"]

shipper:

logging:
  files:
    rotateeverybytes: 10485760 # = 10MB
    level: debug

其中一个 docker-compose 日志记录驱动程序如下所示

redis:
    logging: 
       driver: syslog
       options:
           syslog-facility: user 

最后我想问一下，是否有可能将日志从 docker-composer 本地转发到 VPSA 中的 Filebeat 客户端，图中的红色箭头，以便它可以将它们转发到我的 VPSB。

非常感谢，

问候!!

Answer 1

问题似乎出在 FileBeat VPSA 中，因为它必须从系统日志中收集数据，所以它必须在该系统日志之前运行!

更新 rc.d 使其工作

sudo update-rc.d filebeat defaults 95 10

我的 filebeats.yml 如果有人需要的话

root@VPSA:/etc/filebeat# cat filebeat.yml 
filebeat:
  prospectors:
    -
      paths:
#        - /var/log/auth.log
        - /var/log/syslog
#        - /var/log/*.log


      input_type: log
      ignore_older: 24h
      scan_frequency: 10s      
      document_type: syslog

  registry_file: /var/lib/filebeat/registry

output:
  logstash:
    hosts: ["ipVPSB:5044"]
    bulk_max_size: 2048

    tls:
      certificate_authorities: ["/etc/pki/tls/certs/logstash-forwarder.crt"]

shipper:

logging:
  level: debug
  to_files: true
  to_syslog: false
  files:
    path: /var/log/mybeat
    name: mybeat.log
    keepfiles: 7
    rotateeverybytes: 10485760 # = 10MB

问候