前言
Filebeat是一个轻量级的日志收集工具,所使用的资源比logstash部署和启动时使用的资源更小
Filebeat可以运行在非Java环境,他可以代理logstash在非Java环境上收集日志
Filebeat无法实现数据的过滤,一般是结合logstash的数据过滤功能一块使用
核心图:
本地采集:
开始收集,发送
执行过程输出到filebeat.out这个文件当中。&表示后台运行
访问测试(多刷几遍,以防收集不到,404也多刷几遍)访问呢错误日志,以便观察
Logstash收集日志的过程:
Input(从哪里收集)
Filebeat(过滤)
远程收集,远程收集多个日志
开始收集日志准备
– type: log
– /usr/local/mysql/data/mysql_general.log
service_name: 20.0.0.54_mysqld
总览图:
回到elk收日志,便于查看是否命中,可以加上方框那一行,可以不加
input {
}
output {
hosts => [“20.0.0.52:9200″,”20.0.0.53:9200”]
index =>”%{[fields][service_name]}-%{+YYYY.MM.dd}”
}
}
hosts => [“20.0.0.52:9200″,”20.0.0.53:9200”]
index =>”%{[fields][service_name]}-%{+YYYY.MM.dd}”
}
}
hosts => [“20.0.0.52:9200″,”20.0.0.53:9200”]
index =>”%{[fields][service_name]}-%{+YYYY.MM.dd}”
}
}
stdout {
}
}
nohup ./filebeat -e –c filebeat.yml > filebeat.out &
logstash -f nginx_54.conf —path.data /opt/test12&
Logstash可以使用任意端口,只要没被在占用,都可以使用,推荐从1024之后开始使用
5044
5045
5046
改端口
ES查看
如何对logstash性能上的优化(小优化):
Logstash启动是在Jam虚拟机当中启动,启动一次至少要占500M内存
Logstash的工作线程,默认就是CPU数,4 2 8 4给一半即可,2核,2个
查询更新的延时,50毫秒,也可以自行调整,生产中一般都是15 10毫秒
原文地址:https://blog.csdn.net/wutong0824/article/details/134767316
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若转载,请注明出处:http://www.7code.cn/show_36024.html
如若内容造成侵权/违法违规/事实不符,请联系代码007邮箱:suwngjj01@126.com进行投诉反馈,一经查实,立即删除!