Logback配置文件这么写,TPS提高10倍

通过阅读本篇文章将了解到

  • 1.日志输出到文件并根据LEVEL级别将日志分类保存到不同文件
  • 2.通过异步输出日志减少磁盘IO提高性能
  • 3.异步输出日志的原理
     

配置文件logback-spring.xml

SpringBoot工程自带logback和slf4j的依赖,所以重点放在编写配置文件上,需要引入什么依赖,日志依赖冲突统统都不需要我们管了。logback框架会默认加载classpath下命名为logback-spring或logback的配置文件。将所有日志都存储在一个文件中文件大小也随着应用的运行越来越大并且不好排查问题,正确的做法应该是将error日志和其他日志分开,并且不同级别的日志根据时间段进行记录存储。

<?xml version="1.0" encoding="utf-8"?><configuration>    <property resource="logback.properties"/>    <appender name="CONSOLE-LOG" class="ch.qos.logback.core.ConsoleAppender">        <layout class="ch.qos.logback.classic.PatternLayout">            <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>        </layout>    </appender>    <!--获取比info级别高(包括info级别)但除error级别的日志-->    <appender name="INFO-LOG" class="ch.qos.logback.core.rolling.RollingFileAppender">        <filter class="ch.qos.logback.classic.filter.LevelFilter">            <level>ERROR</level>            <onMatch>DENY</onMatch>            <onMismatch>ACCEPT</onMismatch>        </filter>        <encoder>            <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>        </encoder>        <!--滚动策略-->        <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy">            <!--路径-->            <fileNamePattern>${LOG_INFO_HOME}//%d.log</fileNamePattern>            <maxHistory>30</maxHistory>        </rollingPolicy>    </appender>    <appender name="ERROR-LOG" class="ch.qos.logback.core.rolling.RollingFileAppender">        <filter class="ch.qos.logback.classic.filter.ThresholdFilter">            <level>ERROR</level>        </filter>        <encoder>            <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>        </encoder>        <!--滚动策略-->        <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy">            <!--路径-->            <fileNamePattern>${LOG_ERROR_HOME}//%d.log</fileNamePattern>            <maxHistory>30</maxHistory>        </rollingPolicy>    </appender>    <root level="info">        <appender-ref ref="CONSOLE-LOG" />        <appender-ref ref="INFO-LOG" />        <appender-ref ref="ERROR-LOG" />    </root></configuration>

部分标签说明
  • <root>
    标签,必填标签,用来指定最基础的日志输出级别
     
    • <appender-ref>标签,添加append
       
  • <append>
    标签,通过使用该标签指定日志的收集策略
     
    • name属性指定appender命名
    • class属性指定输出策略,通常有两种,控制台输出和文件输出,文件输出就是将日志进行一个持久化。ConsoleAppender将日志输出到控制台
       
  • <filter>
    标签,通过使用该标签指定过滤策略
     
    • <level>标签指定过滤的类型
       
  • <encoder>标签,使用该标签下的<pattern>标签指定日志输出格式
  • <rollingPolicy>
    标签指定收集策略,比如基于时间进行收集
     
    • <fileNamePattern>标签指定生成日志保存地址 通过这样配置已经实现了分类分天手机日志的目标了
       
 

logback 高级特性异步输出日志

之前的日志配置方式是基于同步的,每次日志输出到文件都会进行一次磁盘IO。采用异步写日志的方式而不让此次写日志发生磁盘IO,阻塞线程从而造成不必要的性能损耗。异步输出日志的方式很简单,添加一个基于异步写日志的appender,并指向原先配置的appender即可

<!-- 异步输出 -->    <appender name="ASYNC-INFO" class="ch.qos.logback.classic.AsyncAppender">        <!-- 不丢失日志.默认的,如果队列的80%已满,则会丢弃TRACT、DEBUG、INFO级别的日志 -->        <discardingThreshold>0</discardingThreshold>        <!-- 更改默认的队列的深度,该值会影响性能.默认值为256 -->        <queueSize>256</queueSize>        <!-- 添加附加的appender,最多只能添加一个 -->        <appender-ref ref="INFO-LOG"/>    </appender>    <appender name="ASYNC-ERROR" class="ch.qos.logback.classic.AsyncAppender">        <!-- 不丢失日志.默认的,如果队列的80%已满,则会丢弃TRACT、DEBUG、INFO级别的日志 -->        <discardingThreshold>0</discardingThreshold>        <!-- 更改默认的队列的深度,该值会影响性能.默认值为256 -->        <queueSize>256</queueSize>        <!-- 添加附加的appender,最多只能添加一个 -->        <appender-ref ref="ERROR-LOG"/>    </appender>异步输出日志性能测试

既然能提高性能的话,必须进行一次测试比对,同步和异步输出日志性能到底能提升多少倍?

服务器硬件

  • CPU六核
  • 内存 8G
     

测试工具Apache Jmeter同步输出日志

  • 线程数:100
  • Ramp-Up Loop(可以理解为启动线程所用时间) :0 可以理解为100个线程同时启用
  • 测试结果
     
    重点关注指标
    Throughput【TPS】
    吞吐量:系统在单位时间内处理请求的数量,在同步输出日志中
    TPS
    44.2/sec

     

异步输出日志

  • 线程数 100
  • Ramp-Up Loop:0
  • 测试结果
     
    TPS
    497.5/sec
    性能提升了10多倍!!!

     

异步日志输出原理

从logback框架下的Logger.info方法开始追踪。一路的方法调用路径如下图所示:
 
异步输出日志中最关键的就是配置文件中ch.qos.logback.classic``AsyncAppenderBase``append

protected void append(E eventObject) {        if(!this.isQueueBelowDiscardingThreshold() || !this.isDiscardable(eventObject)) {            this.preprocess(eventObject);            this.put(eventObject);        }    }

通过队列情况判断是否需要丢弃日志,不丢弃的话将它放到阻塞队列中,通过查看代码,这个阻塞队列为ArrayBlockingQueueu,默认大小为256,可以通过配置文件进行修改。Logger.info(...)到append(...)就结束了,只做了将日志塞入到阻塞队列的事,然后继续执行Logger.info(...)下面的语句了。 在AsyncAppenderBase类中定义了一个Worker线程,run方法中的关键部分代码如下:

E e = parent.blockingQueue.take();aai.appendLoopOnAppenders(e);

从阻塞队列中取出一个日志,并调用AppenderAttachableImpl类中的appendLoopOnAppenders方法维护一个Append列表。Worker线程中调用方法过程主要如下图:
 
最主要的两个方法就是encode``write``encode
作者:何甜甜在吗链接:https://juejin.im/post/5d4d61326fb9a06aff5e5ff5
最后附:项目完整代码

异步输出日志<?xml version="1.0" encoding="utf-8"?><configuration>    <property resource="logback.properties"/>    <appender name="CONSOLE-LOG" class="ch.qos.logback.core.ConsoleAppender">        <layout class="ch.qos.logback.classic.PatternLayout">            <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>        </layout>    </appender>    <!--获取比info级别高(包括info级别)但除error级别的日志-->    <appender name="INFO-LOG" class="ch.qos.logback.core.rolling.RollingFileAppender">        <filter class="ch.qos.logback.classic.filter.LevelFilter">            <level>ERROR</level>            <onMatch>DENY</onMatch>            <onMismatch>ACCEPT</onMismatch>        </filter>        <encoder>            <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>        </encoder>        <!--滚动策略-->        <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy">            <!--路径-->            <fileNamePattern>${LOG_INFO_HOME}//%d.log</fileNamePattern>            <maxHistory>30</maxHistory>        </rollingPolicy>    </appender>    <appender name="ERROR-LOG" class="ch.qos.logback.core.rolling.RollingFileAppender">        <filter class="ch.qos.logback.classic.filter.ThresholdFilter">            <level>ERROR</level>        </filter>        <encoder>            <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>        </encoder>        <!--滚动策略-->        <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy">            <!--路径-->            <fileNamePattern>${LOG_ERROR_HOME}//%d.log</fileNamePattern>            <maxHistory>30</maxHistory>        </rollingPolicy>    </appender>    <!-- 异步输出 -->    <appender name="ASYNC-INFO" class="ch.qos.logback.classic.AsyncAppender">        <!-- 不丢失日志.默认的,如果队列的80%已满,则会丢弃TRACT、DEBUG、INFO级别的日志 -->        <discardingThreshold>0</discardingThreshold>        <!-- 更改默认的队列的深度,该值会影响性能.默认值为256 -->        <queueSize>256</queueSize>        <!-- 添加附加的appender,最多只能添加一个 -->        <appender-ref ref="INFO-LOG"/>    </appender>    <appender name="ASYNC-ERROR" class="ch.qos.logback.classic.AsyncAppender">        <!-- 不丢失日志.默认的,如果队列的80%已满,则会丢弃TRACT、DEBUG、INFO级别的日志 -->        <discardingThreshold>0</discardingThreshold>        <!-- 更改默认的队列的深度,该值会影响性能.默认值为256 -->        <queueSize>256</queueSize>        <!-- 添加附加的appender,最多只能添加一个 -->        <appender-ref ref="ERROR-LOG"/>    </appender>    <root level="info">        <appender-ref ref="CONSOLE-LOG" />        <appender-ref ref="INFO-LOG" />        <appender-ref ref="ERROR-LOG" />    </root></configuration>LOG_ERROR_HOME=C://Users//hetiantian//Desktop//log//errorLOG_INFO_HOME=C://Use

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值