本文的代码以lucene-core 6.3.0为准,倒排索引的基本信息和Lucene50PostingsFormat 等整个类所有代码的解析。转载请注明出处。
0 基本概念
- 在lucene中,有相当多的时候需要存正整数的数组,当这个数组比较大的时候,需要分块存储,有两种方式,第一种是整数数量固定数量(128)的block,就是Packed Blocks,每个整数占用相同的字节数,然后把每个block用PackedInts来压缩,为了达到压缩的效果,每个元素都存它本身和前一个元素的差值delta;第二种是整数数量不固定(小于128)的block,就是VInt Blocks,每个整数用VInt的方式存。
- lucene中经常需要同时用到两种block的存储方式,比如存docID列表,假设列表长度是259,那么这可以存2个Packed Blocks,剩余3个整数用VInt Blocks存。
- 跳表的跳跃间隔是BLOCK_SIZE(128),跳跃点会存每个docId的block的第一个docId,当然,第一个block就不需要设置跳跃点。
- 详细的倒排索引源码分析可以看Lucene源码分析 - Lucene50PostingsWriter 存储倒排索引
1 词项词典(Term Dictionary)
- 倒排索引的基本结构是term->文档ID列表,但是lucene中不是存文档ID列表,而是存term在的.do