索引文件的生成(二十五)(Lucene 8.7.0)

  在系列文章索引文件的生成(Lucene 7.5.0)中,我们介绍了存储维度(见文章Bkd-Tree)值大于等于2的数值类型对应的索引文件的生成过程。对于维度值等于1的情况,其生成过程有少许的不同。为了后续便于介绍该类型的索引文件的合并,我们需要再写一篇文章来介绍其生成过程。

索引文件的变更

图1:

  从Lucene 8.6.0开始,用于存储点数据(point value)的索引文件由原先的索引文件dim&&dii,改为三个索引文件kdd&kdi&kdm,其变更的目的可以看这个issue,本文中不展开讨论。

  给出图1的目的是为了说明,点数据对应的索引文件,其生成的总体流程没有太大变动的,下文中介绍维度值为1的生成过程(基于Lucene 8.7.0)时,只会介绍与维度值大于等于2的不同的流程点,其相同的流程点可以参考系列文章索引文件的生成基于Lucene 7.5.0)。

差异

  维度值为1的生成索引文件的过程中,唯一不同点在于图1中的流程点构建BKD树的节点值(node value),如下所示:

图2:

点击查看大图

  图2中,红框标注的流程点表示在这些流程点的处理方式是一致的。

生成索引文件kdd&kdi&kdm的流程图

图3:

节点

图4:

  流程点节点中包含了在索引(Indexing)期间收集的点数据信息,收集相关的介绍见文章索引文件的生成(八)

节点内的点数据排序

图5:

  无论维度的数量是多少,最终生成的bkd树的每个叶子节点中的点数据是有序的。对于维度大于等于2的情况,叶子节点中点数据的排序规则取决这个叶子节点的父节点在进行左右子树划分时选择的某个维度,对应图2中流程点内部节点的排序,该流程点的详细介绍见文章索引文件的生成(十)。对于维度等于1的情况,由于不用考虑选择哪个维度进行排序,所以对于某个点数据域来说,直接对flush/commit收集到的全量点数据进行排序即可,随后对这个有序的集合按块划分(下文会介绍)后,每一块中的点数据集合将被写入到一个叶子节点,如下所示。另外排序使用的算法为最大有效位的基数排序(MSB radix sort)。

图6:

点击查看大图

  当然了,排序过程中并不会真正的去改变排序前的点数据集合,通过一个int类型的ord[ ]实现一个映射关系来描述排序关系。同样关于ord[ ]数组的介绍可以看文章 索引文件的生成(十)之dim&&dii

统计leafCardinality以及其他一些信息

图7:

  在获得了有序的点数据集合后,接着有序的依次取出每一个点数据,每处理一个点数据,需要统计leafCardinality以及其他一些信息。

leafCardinality

  对于一个有序的集合,可以划分为一个或多个区间,要求每个区间内至少包含一个数据,如果包含多个数据,那么要求所有的数据是相同的,leafCardinality描述的正是区间数量。

图8:

  随后在图2的流程点写入不同后缀信息到索引文件.kdd中中,会根据根据leafCardinality的值来选择(用于来判断是否使用游标编码(Run Length Encoding)存储)存储开销较低的数据结构来存储点数据的后缀信息。同样的,详细的过程见文章索引文件的生成(十三)的介绍。

其他一些信息

  处理统计leafCardinality的值,还需要计算下面一些信息:

图9:

  图9中,由于文档4中添加了两次IntPoint,那么在点数据的收集阶段,会认为一共收集了5个点数据。通过docsSeen可以正确的统计文档的数量,该值将被写入到索引文件.kdm的DocCount字段中:

图10:

是否生成一个叶子节点?

图11:

  在前面的流程中,当处理了maxPointsInLeafNode个点数据后(即上文中提到的按块划分),则满足条件生成一个叶子节点。

maxPointsInLeafNode

  maxPointsInLeafNode描述的是叶子节点中允许存储的点数据的数量最大值(max points allowed on a Leaf block)。maxPointsInLeafNode的默认值为512。

其他流程点

  图3中未介绍的流程点可以查看文章索引文件的生成(十二)之dim&&dii索引文件的生成(十三)之dim&&dii,不赘述。

结语

  

点击下载附件