前言
不管是PHP各种框架的日志
还是java的 Java Stack Traces
他们都是多行日志模式
这个时候如果使用
filebeat + elasticsearch + kibana 做日志的采集,存储,展示那么就需要用到
filebeat的 multiline 配置
一词日志是多行记录,其实这种多行的日志会有日志分段的分隔符
写出对于的分隔符正则即可解决filebeat采集一次日志记录为多行的情况
配置示例
例如我们有日志文件
/var/www/a.iamle.com/runtime/log/201904/01.log
/var/www/b.iamle.com/Application/Runtime/Logs/201904/02.log
/var/www/c.iamle.com/runtime/log/201905/03.log
/var/www/d.iamle.com/Application/Runtime/Logs/201906/04.log
分析日志后得出某一次日志通过什么标识作为分隔符
# 标识方式1 63个"-"作为分割符 正则为 ^\-{63}
# ...
---------------------------------------------------------------
2019-04-08T13:58:19+08:00 192.168.0.1 GET a.iamle.com/v1/1?type_id=1
[运行时间:0.582681s] [吞吐率:1.72req/s] [内存消耗:3,387.72kb] [文件加载:80]
[ err ] [ LANG ] /var/releases/balabala/20181227-101450/fw/lang/zh-cn.php
[ err ] [ ROUTE ] array (
'rule' => 'v1',
'route' => 'index/v1/1',
---------------------------------------------------------------
2019-04-08T13:58:19+08:00 192.168.0.1 GET b.iamle.com/v1/1?type_id=1
[运行时间:0.582681s] [吞吐率:1.72req/s] [内存消耗:3,387.72kb] [文件加载:80]
[ err ] [ LANG ] /var/releases/balabala/20181227-101450/fw/lang/zh-cn.php
[ err ] [ ROUTE ] array (
'rule' => 'v1',
'route' => 'index/v1/1',
---------------------------------------------------------------
# ...
# 标识方式2 "[ 2019 作为分隔符 正则为 ^\[\s{1}\d{4}
# ...
[ 2019-04-09T13:58:19+08:00 ] 192.168.0.1 GET a.iamle.com/v2
[运行时间:0.681s] [吞吐率:1.72req/s] [内存消耗:3,387.72kb] [文件加载:82]
[ err ] [ LANG ] /var/releases/balabala/20191227-101450/fw/lang/zh-cn.php
[ err ] [ ROUTE ] array (
'rule' => 'v2',
'route' => 'index/v2',
[ 2019-04-09T13:58:19+08:00 ] 192.168.0.1 GET b.iamle.com/v2/1
[运行时间:0.681s] [吞吐率:1.72req/s] [内存消耗:3,387.72kb] [文件加载:81]
[ err ] [ LANG ] /var/releases/balabala/20191227-101450/fw/lang/zh-cn.php
[ err ] [ ROUTE ] array (
'rule' => 'v2',
'route' => 'index/v2',
# ...
filebeat中配置文件
/etc/filebeat/filebeat.yml
# ...
- type: log
enabled: true
paths:
- /var/www/*.iamle.com/runtime/log/*/*.log
- /var/www/*.iamle.com/Application/Runtime/Logs/*/*.log
# 正则需要支持2种不同的分隔符
multiline.pattern: '^(\-{63}|\[\s{1}\d{4})'
multiline.negate: true
multiline.match: after
# ...
# 检查filebeat是否配置正确
filebeat test config
# 重启filebeat
systemctl restart filebeat
写正则的时候推荐用正则可视化工具检查正则
例如本文的正则
扩展
这种非自己能定义的日志,思路是寻找多行日志分段规律写出对于的正则即可
那么自己打日志的情况下,不太推荐这种多行日志了,采用结构化的json日志,一行一条是比较推荐的方式
这样在后期的处理分析中将会便利太多太多
参考
Filebeat Reference [7.0] » Configuring Filebeat » Manage multiline messages