索引文件.dvm&&.dvd中根据文档中包含的不同类型的DocValuesFields,包含下面的DocValues信息:
- BinaryDocValues:
- NumericDocValues:见文章索引文件的生成(十五)之dvm&&dvd
- SortedDocValues:见文章索引文件的生成(十八)之dvm&&dvd
- SortedNumericDocValues:见文章索引文件的生成(十七)之dvm&&dvd
- SortedSetDocValues:索引文件的生成(十八)之dvm&&dvd
本篇文章开始介绍生成索引文件.dvd、.dvm之BinaryDocValues的内容,在此之前,我们先介绍下在索引(index)阶段以及flush阶段,Lucene是如何收集文档中的BinaryDocValues的信息。
BinaryDocValues
BinaryDocValues信息对应的是在文档中BinaryDocValuesField域中的信息,它同NumericDocValues、SortedDocValues一样,在一篇文档中,相同域名的BinaryDocValuesField只能有一个,否则就会报错,如下所示:
图1:
图2:
收集文档的BinaryDocValues信息
收集BinaryDocValues信息的代码入口方法为:https://github.com/LuXugang/Lucene-7.5.0/blob/master/solr-8.4.0/lucene/core/src/java/org/apache/lucene/index/BinaryDocValuesWriter.java 的 addValue(int docID, BytesRef value)方法,收集的信息有:DocId、bytes、lengths。
我们根据一个例子来介绍上述收集的信息,注意的是,图3中的文档2并没有包含BInaryDocValuesField:
图3:
DocId即包含BinaryDocValuesField域的文档的文档号,并且使用DocsWithFieldSet存储,DocsWithFieldSet存储文档号的过程在文章索引文件的生成(十五)之dvm&&dvd已经介绍,不赘述。
bytes在源码中是PagedBytes对象,我们不用关心PagedBytes类的具体内容,我们只需要知道,在这个类中,有一个二维字节数组blocks[ ][ ]以及一个字节数组currentBlock[ ],他们用来存储BinaryDocValuesField的域值,如下所示:
图4:
在实际写入过程中,二维数组blocks是动态成长的,当一个currentBlock[ ]中填满域值后,它会被写入到二维数组中,另外出于存储性能的考虑,currentBlock[ ]中每个字节都会被用于存储,这样使得可能某个域值会被分散在两个currentBlock[ ]中。
lengths是一个PackedLongValues.Builder对象,同样的我们不需要关心PackedLongValues.Builder的具体内容, 我们只需要知道,在这个类中,有一个pending数组,它用来收集包含BinaryDocValuesField域的每篇文档中的对应的域值长度,对于图3的例子如下所示:
剩余内容看这里:https://www.amazingkoala.com.cn/Lucene/Index/2020/0605/147.html