编写logstash事件配置文件通过grok实现日志过滤

890 未经授权,禁止转载了解课程
课程介绍
讨论{{interaction.discussNum ? '(' + interaction.discussNum + ')' : ''}}
适合人群
具备Linux基础,要熟悉Linux常用命令的使用。 本课程适合大数据运维工程师、大数据分析同学进行参考和学习。
你将会学到
通过本课程的学习,可以使学员系统掌握基于Docker下ELK运维技能。
  • 掌握docker容器下ELK的使用
课程简介

一、课程简介

本课程EFLK(Elasticsearch、Filebeat、Logstash、Kibana)基于ELK Stack7.14版本录制,主要介绍了Logstash、kafka、Filebeat、Elasticsearch以及Kibana的具体应用与企业实践,本课程由浅入深,循序渐进,适合零基础入门学习。

课程大约6个小时时长,内容较多,建议同学们耐心观看和学习,如有问题,可提出问题,我也会随时给大家进行答疑。


二、课程大纲如下


1、ELK常见企业应用架构

(1)、简单的ELK应用架构

(2)、典型ELK架构

(3)、ELK集群架构


2、构建EFLK集群日志分析平台

(1)、docker-compose方式部署Elasticsearch集群与Kibana

(2)、docker-compose方式部署kafka集群

(3)、docker-compose方式部署logstash

(4)、物理方式部署filebeat

(5)、验证EFLK集群数据流转


3、EFLK 收集 Nginx 访问日志案例

(1)、 Nginx日志内容与格式分析

(2)、配置Filebeat实现实时读取nginx日志

(3)、使用grok插件配置Logstash实现不规则日志规整


4、EFLK架构收集tomcat日志应用案例

(1)、tomcat的日志格式与日志变量解析

(2)、配置tomcat的访问日志和catalina.out文件

(3)、配置filebeat以及logstash配置文件编写

(4)、通过logstash实现catalina.out错误日志告警到zabbix


5、EFLK架构收集mysql慢查询日志案例

(1)、如何开启mysql慢查询日志

(2)、慢查询日志结构分析

(3)、filebeat中配置mysql慢查询日志并进行多行合并

(4)、编写logstash配置文件,通过grok规整日志


6、企业流行大数据平台架构分享


(1)、典型企业大数据平台拓扑

(2)、实时日志收集架构

(3)、ELK实时检索系统架构

(4)、Hadoop大数据生态圈介绍

(5)、典型的Hadoop大数据平台部署拓扑

三、课程内容截图



展开更多
发布
头像

{{ item.user.nick_name }} {{ EROLE_NAME[item.user.identity] }}

置顶笔记
讨论图
{{ item.create_time }}回复
  • 删除

    是否确认删除?

    确认
    取消
  • {{ item.is_top == 1 ? '取消置顶' : '置顶'}}

    已有置顶的讨论,是否替换已有的置顶?

    确认
    取消
{{ tag.text}}
头像
{{ subitem.user.nick_name }}{{ EROLE_NAME[subitem.user.identity] }}
{{ subitem.create_time }}回复
删除

是否确认删除?

确认
取消
发布
{{pageType === 'video' ? '讨论区抢占沙发,可获得双倍学分' :'讨论区空空如也,你来讲两句~'}}
发布
{{tips.text}}
{{ noteHeaderTitle }} 笔记{{ hasMyNote ? '我的笔记' : '记笔记' }}
{{ hasMyNote ? '我的笔记' : '记笔记' }}
优质笔记
更新于:{{ $dayjs.formate('YYYY-MM-DD HH:mm:ss', item.last_uptime*1000) }}
头像
{{ detail.username }}

公开笔记对他人可见,有机会被管理员评为“优质笔记”

{{ noteEditor.content.length }}/2000

公开笔记
保存
提问

讲师收到你的提问会尽快为你解答。若选择公开提问,可以获得更多学员的帮助。

记录时间点
记录提问时视频播放的时间点,便于后续查看
公开提问
提交