博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Logstash日志采集分析工具
阅读量:6292 次
发布时间:2019-06-22

本文共 876 字,大约阅读时间需要 2 分钟。

hot3.png

ELK(ElasticSearch、Logstash、Kibana )的组合,是一种比较常见的数据采集分析进行可视化展示的技术方案,这里重点展示介绍下logstash的用法。

借用官方的介绍:

logstash

集中、转换和存储数据

Logstash 是开源的服务器端数据处理管道,能够同时从多个来源采集数据,转换数据,然后将数据发送到您最喜欢的 “存储库” 中。

下面,用一个比较直接的图形,表示其功能和关系。

简单的汇总logstash的工作流程:输入->过滤->输出

 

1、输入过程:

采集各种样式、大小和来源的数据

数据往往以各种各样的形式,或分散或集中地存在于很多系统中。 Logstash 支持 ,可以在同一时间从众多常用来源捕捉事件。能够以连续的流式传输方式,轻松地从您的日志、指标、Web 应用、数据存储以及各种 AWS 服务采集数据

 

2、过滤

实时解析和转换数据

数据从源传输到存储库的过程中,Logstash 过滤器能够解析各个事件,识别已命名的字段以构建结构,并将它们转换成通用格式,以便更轻松、更快速地分析和实现商业价值。

  • 利用 Grok 从非结构化数据中派生出结构
  • 从 IP 地址破译出地理坐标
  • 将 PII 数据匿名化,完全排除敏感字段
  • 简化整体处理,不受数据源、格式或架构的影响

我们的丰富多样,拥有无限可能。

输出:

选择您的存储库,导出您的数据

尽管 Elasticsearch 是我们的首选输出方向,能够为我们的搜索和分析带来无限可能,但它并非唯一选择。

Logstash 提供,您可以将数据发送到您要指定的地方,并且能够灵活地解锁众多下游用例。

 

另外,logstash是基于java开发的,jdk1.8以上即可。另外,提供了丰富的插件,研发人员,也可以开发自己的插件。用官方的话,有了

插件,就让服务有无数的可能。

接下来,我将会对目前的各个服务的Nginx日志进行采集分析,然后进行可是化展示。这些工作,就要借助于ELK的组合了。

 

 

 

转载于:https://my.oschina.net/lichaoqiang/blog/2221651

你可能感兴趣的文章
玩转Edas应用部署
查看>>
music-音符与常用记号
查看>>
sql操作命令
查看>>
zip 数据压缩
查看>>
Python爬虫学习系列教程
查看>>
【数据库优化专题】MySQL视图优化(二)
查看>>
【转载】每个程序员都应该学习使用Python或Ruby
查看>>
PHP高级编程之守护进程,实现优雅重启
查看>>
PHP字符编码转换类3
查看>>
rsync同步服务配置手记
查看>>
http缓存知识
查看>>
Go 时间交并集小工具
查看>>
iOS 多线程总结
查看>>
webpack是如何实现前端模块化的
查看>>
TCP的三次握手四次挥手
查看>>
关于redis的几件小事(六)redis的持久化
查看>>
webpack4+babel7+eslint+editorconfig+react-hot-loader 搭建react开发环境
查看>>
Maven 插件
查看>>
初探Angular6.x---进入用户编辑模块
查看>>
计算机基础知识复习
查看>>