linux kafka进程,kafka日志被异常清理导致进程频繁挂掉

kafka日志被异常清理导致进程频繁挂掉

2020-12-02

kafka进程不定期挂掉。

1、ERROR Failed to clean up log for __consumer_offsets-30 in dir /tmp/kafka-logs due to IOException (kafka.server.LogDirFailureChannel)

2、linux会定时清理/tmp目录下的文件，我的kafka日志文件目录正是放在了/tmp/kafka-logs目录下，导致被定时给清理掉了，所以kafka在尝试读取或追加日志时就会出错。

grep log.dirs /opt/kafka_2.12-2.3.0/config/server.properties

/tmp/kafka-logs

3、修改

log.dirs=/opt/kafka_2.12-2.3.0/kafka-logs/

4、重启kafka

5、添加kafka日志目录到清理白名单中

centos7下/tmp目录的清理由服务systemd负责，其相关配置文件在/usr/lib/tmpfiles.d目录下，我们修改配置文件tmp.conf，将kafka日志目录加进去，

#防止删除kafka日志文件

X /tmp/kafka-logs

centos6下/tmp目录的清理是通过tmpwatch来实现的，tmpwatch则依赖于cron的定时调度，调度文件为/etc/cron.daily/tmpwatch

#防止删除kafka日志文件

X /tmp/kafka-logs

分类：Linux | 标签： |

相关日志