Kafka消息和offset存储

本文介绍了Kafka如何存储消息,包括日志文件的位置、命名规则和内容查看方法。同时,详细解析了日志条目的格式,并讨论了消费者的offset存储,包括在broker和Zookeeper中的不同方式,帮助读者深入了解Kafka的工作机制。
摘要由CSDN通过智能技术生成

前言

Kafka具有存储功能,默认保存数据时间为7天或者大小1G,也就是说kafka broker上的数据超7天或者1G,就会被清理掉。这些数据存放在broker服务器上,以log文件的形式存在。

准备工作

topic
我添加了一个topic名字为demo1。为了方便观察,它只有一个分区,一个副本。

kafka-topics.sh --zookeeper localhost:2181/kafka1 --desc --topic demo1

这里写图片描述

producer

通过producer推送了11条数据

kafka-console-producer.sh --broker-list localhost:9092 --topic demo1

 这里写图片描述

日志

log的路径配置在conf/server.properties配置文件中,我的日志路径配置在log1文件夹下。log文件的命名那一长串0,是这个日志文件的offset位置。当日志文件达到时间或者大小的上限时,就会生成下一个日志文件,命名的就是下一个offset位置了。

查看日志内容

log日志文件是二进制文件,

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值