Kafka系列4----LogSegment分析

LogSegment代表了一个Segment文件,其中有3个字段,分别代表.log,.index,.timeIndex文件,即log,index和timeIndex

核心字段

log:对应.log文件,FileRecords类型,内含有一个FileChannel对象,主要用来操作文件
index:对应.index文件,OffsetIndex类型,对索引文件的操作进行了一些封装
timeIndex:对应.timeIndex文件,和OffsetIndex类似
baseOffset:基础位移,基之前举的例子里的238
indexIntervalBytes:表示每相隔多少字节就生成一个索引,即以前举的例子里的1kb
bytesSinceLastIndexEntry:当前segment已经添加了多少个字节的消息,主要用来和indexIntervalBytes比较,判断是否需要生成索引,在生成索引后又重置为0

接下来看下核心的几个方法

存储消息

    def append(firstOffset: Long, largestOffset: Long, largestTimestamp: Long, shallowOffsetOfMaxTimestamp: Long, records: MemoryRecords) {
        if (records.sizeInBytes > 0) {
            val physicalPosition = log.sizeInBytes()
            if (physicalPosition == 0)
                rollingBasedTimestamp = Some(largestTimestamp)
            //....
            // 写入消息后,返回写入的大小
            val appendedBytes = log.append(records)
            // 更新最大时间戳
            if (largestTimestamp > maxTimestampSoFar) {
                maxTimestampSoFar = largestTimestamp
                offsetOfMaxTimestamp = shallowOffsetOfMaxTimestamp
            }
            // 判断是否需要生成索引,当前批次中,消息总大小为bytesSinceLastIndexEntry
            if (bytesSinceLastIndexEntry > indexIntervalBytes) {
                // 生成索引
                index.append(firstOffset, physicalPosition)
                timeIndex.maybeAppend(maxTimestampSoFar, offsetOfMaxTimestamp)
                // 生成索引后重新计算
                bytesSinceLastIndexEntry = 0
            }
            // 累加消息大小
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值