背景
之前有用 pt-query-digest 做的慢日志分析的方案,定期将所有机器的慢日志的收集起来,传到中心机上用 pt-query-digest 分析一遍,最后展示出来。
基于 pt 分析展示的结果比较详细,有 SQL 排行,占比等,但是用户体验不是特别好,不能一目了然。
该功能本来是可以给开发看的,但是很少有开发会去看,每次有慢查询需要和开发配合进行修改或者调整的时候,开发都会问我们要具体的 SQL,比较麻烦。
因为每个人维护的端口实例数比较多,并且每次监控报出来的跟慢日志有关的往往是比较严重的问题,像隐式转化这种,如果对实例影响不是很严重,平时也发现不了。
基于以上原因,借助 ELK ,搞了个慢日志实时分析的方案,并且在 kibana 上配好一些图表后即可交给开发看,每次有新 SQL 上线后可以根据慢日志信息的实时展示及时发现问题。
方案确定
首先在网上搜了下关于慢日志分析展示的方案,除了用 pt 工具外,还有用 logstash 进行正则匹配的,正好那会日志分析处理比较热门,ELK 就是其中之一,并且部门其他同事已经搭建好了 ELK 服务,也正好可以用起来。
搭建
下载 logstash-all-plugins-2.1.0。好处是不用自己装插件了,直接能用。
写好配置文件。 logstash 启动的时候会按照配置文件中的设置和规则进行解析和过滤。
nohup bin/logstash -f xxx.cnf > /dev/null 2>