HDP运维-kafka log.dirs变更

###场景 HDP通过Ambari安装如果不单独更改kafka的日志路径,默认是会写入机器的系统盘,但由于系统盘的磁盘空间有限,需要切换。 ###kafka存储日志清除 有两种方式,一种是按时间清除通过配置 log.retention.hours,默认是7天;一种是按照消息大小清除通过配置 log.retention.bytes,如果为负数则不按此策略清除。

目前刚上了一个大量的埋点数据,通过kafka转发,每日有3到4G的增长,按照默认的保存7天的策略是行不通的,所以改为了1天。但这不是最优解决办法,所以替换掉 log.dirs,但是发现Ambari替换此配置不能带/home关键词,所以通过建立软连接的方式去做。 如图: 输入图片说明

###步骤

  • kafka账号下建立:kafka-logs目录。

  • 使用root账号在与默认配置同一目录下建立软连接:ln -s /home/kafka/kafka-logs kafka-logs-01 其中kafka-logs-01跟默认配置的日志路径一致。

  • 修改软连接所属用户以及用户组:chown -h kafka:hadoop kafka-logs-01

  • copy kafka log至新的路径下,需要停止kafka服务避免新的数据丢失,切换到kafka账号执行命令:cp -r /kafka-logs/* kafka-logs/

  • 修改Ambari配置,重启kafka

转载于:https://my.oschina.net/danier/blog/892789

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值