当线上日志文件容量超过磁盘空间80%时,如何实现自动清除?


前言

最近接触了几个线上应用系统,发现一个问题。这些线上应用系统都是使用的Springboot+Log4j2的应用框架,设置了每一个小时滚动切分一个日志文件,并且滚动删除一天前的日志文件,同时也设置了当磁盘容量使用达到80%时,进行UMP监控报警。当1天内如果遇到访问量大的时候,生成的日志会比较多,有可能导致UMP报警,这个时候就需要研发人员登录JDOS部署平台来进行手动清除日志文件。相信这样的事情一两次还可以接收,长年累月的话,特别是晚上12点以后因为这事影响休息,谁的受不了。

其实这个事是可以通过自动化的方式来解决的,在Log4j2里可以通过配置的方式,实现当线上日志文件容量达到一定的磁盘容量时,自动去清除老日志文件。我们看下具体怎么做。


一、实现按容量自动清除日志文件

1.日志滚动删除配置

日志滚动删除是通过在DefaultRolloverStrategy配置下增加IfAccumulatedFileSize配置项的方式,来实现按容量自动清除日志文件。KEEP_LOG_DAY设置为1天(1d),分配的磁盘容量假设是50GB,我们的IfAccumulatedFileSize可以设置为30GB,这样当1天内的日志文件容量超过30GB时,会按时间顺序,自动清除掉老的日志文件。

    <DefaultRolloverStrategy fileIndex="nomax"> 
		<Delete basePath="${logFilePath}" maxDepth="2">
			<IfFileName glob="*.log">
				<IfAny>
					<IfLastModified age="${KEEP_LOG_DAY}"/>
					<!--限制基础目录下最大累计大小-->
					<IfAccumulatedFileSize exceeds="30 GB"/>
				</IfAny>
			</IfFileName>
		</Delete>
	</DefaultRolloverStrategy>

2.日志配置实例

下面是一个配置的实例:

<?xml version="1.0" encoding="UTF-8"?>

<!--日志级别以及优先级排序: OFF > FATAL > ERROR > WARN > INFO > DEBUG > TRACE > ALL -->
<!--Configuration后面的status,这个用于设置log4j2自身内部的信息输出,可以不设置,当设置成trace时,你会看到log4j2内部各种详细输出 -->
<!--monitorInterval:Log4j能够自动检测修改配置 文件和重新配置本身,设置间隔秒数 -->
<configuration status="WARN" monitorInterval="30">

	<!-- 日志文件目录、压缩文件目录、日志格式配置 -->
	<properties>
		<Property name="filePath">/Users/userName/Logs/appName</Property>
		<Property name="log_pattern">%-d{yyyy-MM-dd HH:mm:ss.SSS}-->[%t]--[%-5p]--[%c{1}:%L]-- %msg%n%xwEx</Property>
		<property name="KEEP_LOG_DAY">1D</property> <!-- 保留日志天数 D H M S 分别对应天 小时 分钟 秒 -->
	</properties>

	<!--先定义所有的appender -->
	<appenders>
		<!--这个输出控制台的配置 -->
		<console name="Console" target="SYSTEM_OUT">
			<!--输出日志的格式 -->
			<PatternLayout pattern="${log_pattern}" />
		</console>


		<!-- 这个会打印出所有的debug及以下级别的信息,每次大小超过size,则这size大小的日志会自动存入按年份-月份建立的文件夹下面并进行压缩,作为存档 -->
		<RollingFile name="RollingFileInfo" fileName="${filePath}/info.log" filePattern="${filePath}/info-%d{yyyy-MM-dd}-%i.log" immediateFlush="false">
			<!--控制台只输出level及以上级别的信息(onMatch),其他的直接拒绝(onMismatch) -->
			<ThresholdFilter level="debug" onMatch="ACCEPT"
							 onMismatch="DENY" />
			<PatternLayout pattern="${log_pattern}" />
			<Policies>
				<TimeBasedTriggeringPolicy />
				<SizeBasedTriggeringPolicy size="1 GB" />
			</Policies>
			<!--!Note: 这里的age必须和filePattern协调, 后者是精确到HH, 这里就要写成xH, xd就不起作用
                    另外, 数字最好>2, 否则可能造成删除的时候, 最近的文件还处于被占用状态,导致删除不成功!-->
			<!--7天-->
			<DefaultRolloverStrategy fileIndex="nomax"> <!-- 每次滚动保留的文件数,目前配置按小时滚动,那么同一个小时内最大日志数为20 -->
				<Delete basePath="${filePath}" maxDepth="2">
					<IfFileName glob="info-*.log">
						<IfAny>
							<IfLastModified age="${KEEP_LOG_DAY}"/>
							<!--限制基础目录下最大累计大小-->
							<IfAccumulatedFileSize exceeds="30 GB"/>
						</IfAny>
					</IfFileName>
				</Delete>
			</DefaultRolloverStrategy>
		</RollingFile>


		<RollingFile name="RollingFileError" fileName="${filePath}/error.log"
					 filePattern="${filePath}/error-%d{yyyy-MM-dd}-%i.log" immediateFlush="false">
			<ThresholdFilter level="error" onMatch="ACCEPT"
							 onMismatch="DENY" />
			<PatternLayout pattern="${log_pattern}" />
			<Policies>
				<TimeBasedTriggeringPolicy />
				<SizeBasedTriggeringPolicy size="100 MB" />
			</Policies>
			<DefaultRolloverStrategy max="20"> <!-- 每次滚动保留的文件数,目前配置按小时滚动,那么同一个小时内最大日志数为20 -->
				<Delete basePath="${filePath}" maxDepth="2">
					<IfFileName glob="error-*.log"/>
					<IfLastModified age="${KEEP_LOG_DAY}"/>
					<!--限制基础目录下最大累计大小-->
					<IfAccumulatedFileSize exceeds="5 GB"/>
				</Delete>
			</DefaultRolloverStrategy>
		</RollingFile>
	</appenders>

	<!--然后定义logger,只有定义了logger并引入的appender,appender才会生效 -->
	<loggers>
		<root level="DEBUG">
			<appender-ref ref="Console" />
			<appender-ref ref="RollingFileInfo" />
			<appender-ref ref="RollingFileError" />
		</root>
	</loggers>
</configuration>


总结

通过Log4j2里配置IfAccumulatedFileSize参数的方式,可以实现当线上日志文件容量达到一定的磁盘容量时,自动清除老日志文件,节省了应用运维的工作量。

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值