美文网首页
Filebeat轻量级日志采集工具

Filebeat轻量级日志采集工具

作者: Aubin | 来源:发表于2017-12-12 08:57 被阅读2081次

Beats 平台集合了多种单一用途数据采集器。这些采集器安装后可用作轻量型代理,从成百上千或成千上万台机器向 Logstash 或 Elasticsearch 发送数据。

一、架构图

此次试验基于前几篇文章,需要先基于前几篇文章搭建基础环境。

二、安装Filebeat

  • 下载并安装Filebeat
wget  https://artifacts.elastic.co/downloads/beats/filebeat/filebeat-6.0.1-x86_64.rpm
yum install ./filebeat-6.0.1-x86_64.rpm
  • 修改Filebeat配置文件
vim /etc/filebeat/filebeat.yml                          # 主配置文件
- type: log                                         # 文档类型
    paths:
- /var/log/httpd/access.log*                        # 从哪里读入数据
# 输出在elasticsearch与logstash二选一即可
output.elasticsearch:                               #将数据输出到Elasticsearch。与下面的logstash二者选一
  hosts: ["localhost:9200"]

output.logstash:                                    # 将数据传送到logstash,要配置logstash使用beats接收
  hosts: ["172.18.68.14:5044"]
  • 启动Filebeat
systemctl start filebeat

三、配置Filebeat

  • 配置Logstash接收来自Filebeat采集的数据
vim /etc/logstash/conf.d/test.conf
input {
        beats {
                port => 5044                                            # 监听5044用于接收Filebeat传来数据
        }
}
filter {
  grok {
    match => {
      "message" => "%{COMBINEDAPACHELOG}"                               # 匹配HTTP的日志
    }
    remove_field => "message"                                           # 不显示原信息,仅显示匹配后
  }
}
output {
 elasticsearch {
     hosts => ["http://172.18.68.11:9200","http://172.18.68.12:9200","http://172.18.68.13:9200"]    # 集群IP
     index => "logstash-%{+YYYY.MM.dd}"
     action => "index"
     document_type => "apache_logs"
 }
}
  • 启动Logstash
 /usr/share/logstash/bin/logstash -f /etc/logstash/conf.d/test.conf

四、模拟日志访问

通过curl命令来模拟客户访问,生成访问日志

curl 127.0.0.1
curl 172.18.68.51
curl 172.18.68.52
curl 172.18.68.53

五、验证信息

清除之前实验的旧数据(删除时要在对话框中输入删除),然后可以看到filebeat采集数据经过Logtash过滤再送给Elasticsearch的数据。


扩展

随着ELK日志系统逐渐升级,现在已经能基于Filebeat采集各节点日志,Logstash过滤、修剪数据,最后到ELasticsearch中进行索引构建、分词、构建搜索引擎。现在可以基于Elasticsearch的Head查看在浏览器中查看,但是Head仅仅能简单查看并不能有效进行数据分析、有好展示。要想进行数据分析、有好展示那就需要用到Kibana,Kibana依然放在下一篇文章中讲解,这里先放上架构图。

相关文章

  • docker部署filebeat

    一、背景 最近公司用到了filebeat,所以学习了下这个技术。filebeat是一个轻量级的日志采集工具,使用g...

  • 2020-12-08 Filebeat快速入门

    Filebeat简介 Filebeat是一款基于libbeat的轻量级日志采集器,用于监控日志文件、目录,收集事件...

  • 2.Filebeat 概述

    Filebeat 简介 Filebeat是一个轻量级的,用于转发与集中日志文件的数据采集程序。Filebeat监控...

  • Filebeat轻量级日志采集工具

    Beats 平台集合了多种单一用途数据采集器。这些采集器安装后可用作轻量型代理,从成百上千或成千上万台机器向 Lo...

  • 搞懂日志采集利器Filebeat,只需看完这篇文章!

    filebeat是用于"转发"和"集中日志数据"的轻量级数据采集器。 filebeat会监视指定的日志文件路径,收...

  • filebeat学习要点

    filebeat简介 filebeat是轻量级的日志文件托运工具,它会监控日志目录或者指定的日志文件,追踪读取这些...

  • Filebeat 模块与配置

    关于 Filebeat 轻量级日志采集器 输送至 Elasticsearch 或 Logstash,在 Kiban...

  • filebeat windows安装使用

    说明:本例主要采集日志文件到kafka为例 filebeat简述 Filebeat是一个日志文件托运工具,在...

  • Kubernetes 日志收集

    1. ELK + Kafka + Filebeat架构 Filebeat: 日志采集。 Logstash: 官网描...

  • filebeat.yml 合并多条失效

    filebeat官方例子 背景 在使用filebeat 采集日志时候 需要 指定采集的路径,堆栈信息的合并发送,以...

网友评论

      本文标题:Filebeat轻量级日志采集工具

      本文链接:https://www.haomeiwen.com/subject/vjawixtx.html