MySQL 慢日志解析推送

本文介绍了将MySQL慢日志通过ELK(Elasticsearch、Logstash、Kibana)进行实时分析的过程。原先使用pt-query-digest进行分析,但用户体验不佳。现在借助ELK搭建了一个慢日志分析方案,可以实时展示SQL,方便开发人员监控和及时发现慢查询问题。文章详细描述了方案背景、确定、搭建、配置、部署过程以及遇到的问题,例如资源占用和配置更新不便。
摘要由CSDN通过智能技术生成

背景

之前有用 pt-query-digest 做的慢日志分析的方案,定期将所有机器的慢日志的收集起来,传到中心机上用 pt-query-digest 分析一遍,最后展示出来。

  • 基于 pt 分析展示的结果比较详细,有 SQL 排行,占比等,但是用户体验不是特别好,不能一目了然。

  • 该功能本来是可以给开发看的,但是很少有开发会去看,每次有慢查询需要和开发配合进行修改或者调整的时候,开发都会问我们要具体的 SQL,比较麻烦。

  • 因为每个人维护的端口实例数比较多,并且每次监控报出来的跟慢日志有关的往往是比较严重的问题,像隐式转化这种,如果对实例影响不是很严重,平时也发现不了。

基于以上原因,借助 ELK ,搞了个慢日志实时分析的方案,并且在 kibana 上配好一些图表后即可交给开发看,每次有新 SQL 上线后可以根据慢日志信息的实时展示及时发现问题。

方案确定

首先在网上搜了下关于慢日志分析展示的方案,除了用 pt 工具外,还有用 logstash 进行正则匹配的,正好那会日志分析处理比较热门,ELK 就是其中之一,并且部门其他同事已经搭建好了 ELK 服务,也正好可以用起来。

搭建

  • 下载 logstash-all-plugins-2.1.0。好处是不用自己装插件了,直接能用。

  • 写好配置文件。 logstash 启动的时候会按照配置文件中的设置和规则进行解析和过滤。

  • nohup bin/logstash -f xxx.cnf > /dev/null 2>

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值