Lucene（九）拓展2-倒排索引

最新推荐文章于 2024-07-08 06:53:03 发布

夜未眠shm

最新推荐文章于 2024-07-08 06:53:03 发布

阅读量437

点赞数

分类专栏： 24-全文检索

本文链接：https://blog.csdn.net/java_shm/article/details/106151468

版权

24-全文检索专栏收录该内容

18 篇文章 0 订阅

订阅专栏

1. 倒排索引算法

1.1 什么是倒排索引？

见其名知其意，有倒排索引，对应肯定，有正向索引。

正向索引（forward index），反向索引（inverted index）更熟悉的名字是倒排索引。

在搜索引擎中每个文件都对应一个文件ID，文件内容被表示为一系列关键词的集合（实际上在搜索引擎索引库中，关键词也已经转换为关键词ID）。例如“文档1”经过分词，提取了20个关键词，每个关键词都会记录它在文档中的出现次数和出现位置。

正向索引的结构如下：

“文档1”的ID > 单词1：出现次数，出现位置列表；单词2：出现次数，出现位置列表；…………。

“文档2”的ID > 此文档出现的关键词列表。

一般是通过key，去找value。

当用户在主页上搜索关键词“华为手机”时，假设只存在正向索引（forward index），那么就需要扫描索引库中的所有文档，找出所有包含关键词“华为手机”的文档，再根据打分模型进行打分，排出名次后呈现给用户。因为互联网上收录在搜索引擎中的文档的数目是个天文数字，这样的索引结构根本无法满足实时返回排名结果的要求。

所以，搜索引擎会将正向索引重新构建为倒排索引，即把文件ID对应到关键词的映射转换为关键词到文件ID的映射，每个关键词都对应着一系列的文件，这些文件中都出现这个关键词。

倒排索引的结构如下：

“关键词1”：“文档1”的ID，“文档2”的ID，…………。

“关键词2”：带有此关键词的文档ID列表。

　从词的关键字，去找文档。

1.2. 单词——文档矩阵

单词-文档矩阵是表达两者之间所具有的一种包含关系的概念模型，如下图的每列代表一个文档，每行代表一个单词，打对勾的位置代表包含关系。

从纵向即文档这个维度来看，每列代表文档包含了哪些单词，比如文档1包含了词汇1和词汇4，而不包含其它单词。从横向即单词这个维度来看，每行代表了哪些文档包含了某个单词。比如对于词汇1来说，文档1和文档4中出现过单词1，而其它文档不包含词汇1。矩阵中其它的行列也可作此种解读。

搜索引擎的索引其实就是实现“单词-文档矩阵”的具体数据结构。可以有不同的方式来实现上述概念模型，比如“倒排索引”、“签名文件”、“后缀树”等方式。但是各项实验数据表明，“倒排索引”是实现单词到文档映射关系的最佳实现方式，所以本博文主要介绍“倒排索引”的技术细节。

1.3. 倒排索引基本概念

文档(Document)：一般搜索引擎的处理对象是互联网网页，而文档这个概念要更宽泛些，代表以文本形式存在的存储对象，相比网页来说，涵盖更多种形式，比如Word，PDF，html，XML等不同格式的文件都可以称之为文档。再比如一封邮件，一条短信，一条微博也可以称之为文档。在本书后续内容，很多情况下会使用文档来表征文本信息。

文档集合(Document Collection)：由若干文档构成的集合称之为文档集合。比如海量的互联网网页或者说大量的电子邮件都是文档集合的具体例子。

文档编号(Document ID)：在搜索引擎内部，会将文档集合内每个文档赋予一个唯一的内部编号，以此编号来作为这个文档的唯一标识，这样方便内部处理，每个文档的内部编号即称之为“文档编号”，后文有时会用DocID来便捷地代表文档编号。

单词编号(Word ID)：与文档编号类似，搜索引擎内部以唯一的编号来表征某个单词，单词编号可以作为某个单词的唯一表征。

倒排索引(Inverted Index)：倒排索引是实现“单词-文档矩阵”的一种具体存储形式，通过倒排索引，可以根据单词快速获取包含这个单词的文档列表。倒排索引主要由两个部分组成：“单词词典”和“倒排文件”。

单词词典(Lexicon)：搜索引擎的通常索引单位是单词，单词词典是由文档集合中出现过的所有单词构成的字符串集合，单词词典内每条索引项记载单词本身的一些信息以及指向“倒排列表”的指针。

倒排列表(PostingList)：倒排列表记载了出现过某个单词的所有文档的文档列表及单词在该文档中出现的位置信息，每条记录称为一个倒排项(Posting)。根据倒排列表，即可获知哪些文档包含某个单词。

倒排文件(Inverted File)：所有单词的倒排列表往往顺序地存储在磁盘的某个文件里，这个文件即被称之为倒排文件，倒排文件是存储倒排索引的物理文件。

关于这些概念之间的关系，通过图2可以比较清晰的看出来。

1.4 倒排索引简单实例

倒排索引从逻辑结构和基本思路上来讲非常简单。下面我们通过具体实例来进行说明，使得读者能够对倒排索引有一个宏观而直接的感受。

假设文档集合包含五个文档，每个文档内容如图3所示，在图中最左端一栏是每个文档对应的文档编号。我们的任务就是对这个文档集合建立

中文和英文等语言不同，单词之间没有明确分隔符号，所以首先要用分词系统将文档自动切分成单词序列。这样每个文档就转换为由单词序列构成的数据流，为了系统后续处理方便，需要对每个不同的单词赋予唯一的单词编号，同时记录下哪些文档包含这个单词，在如此处理结束后，我们可以得到最简单的倒排索引如下图，“单词ID”一栏记录了每个单词的单词编号，第二栏是对应的单词，第三栏即每个单词对应的倒排列表。比如单词“谷歌”，其单词编号为1，倒排列表为{1,2,3,4,5}，说明文档集合中每个文档都包含了这个单词。

之所以说上图所示倒排索引是最简单的，是因为这个索引系统只记载了哪些文档包含某个单词，而事实上，索引系统还可以记录除此之外的更多信息。下图是一个相对复杂些的倒排索引，与上图的基本索引系统比，在单词对应的倒排列表中不仅记录了文档编号，还记载了单词频率信息（TF），即这个单词在某个文档中的出现次数，之所以要记录这个信息，是因为词频信息在搜索结果排序时，计算查询和文档相似度是很重要的一个计算因子，所以将其记录在倒排列表中，以方便后续排序时进行分值计算。在图5的例子里，单词“创始人”的单词编号为7，对应的倒排列表内容为：（3:1），其中的3代表文档编号为3的文档包含这个单词，数字1代表词频信息，即这个单词在3号文档中只出现过1次，其它单词对应的倒排列表所代表含义与此相同。

实用的倒排索引还可以记载更多的信息，下图所示索引系统除了记录文档编号和单词频率信息外，额外记载了两类信息，即每个单词对应的“文档频率信息”（对下图的第三栏）以及在倒排列表中记录单词在某个文档出现的位置信息。

“文档频率信息”：代表了在文档集合中有多少个文档包含某个单词，之所以要记录这个信息，其原因与单词频率信息一样，这个信息在搜索结果排序计算中是非常重要的一个因子。而单词在某个文档中出现的位置信息并非索引系统一定要记录的，在实际的索引系统里可以包含，也可以选择不包含这个信息，之所以如此，因为这个信息对于搜索系统来说并非必需的，位置信息只有在支持“短语查询”的时候才能够派上用场。

以单词“拉斯”为例，其单词编号为8，文档频率为2，代表整个文档集合中有两个文档包含这个单词，对应的倒排列表为：{(3;1;<4>)，(5;1;<4>)},其含义为在文档3和文档5出现过这个单词，单词频率都为1，单词“拉斯”在两个文档中的出现位置都是4，即文档中第四个单词是“拉斯”。

1.5 树形结构

B树（或者B+树）是另外一种高效查找结构，下图是一个 B树结构示意图。B树与哈希方式查找不同，需要字典项能够按照大小排序（数字或者字符序），而哈希方式则无须数据满足此项要求。

B树形成了层级查找结构，中间节点用于指出一定顺序范围的词典项目存储在哪个子树中，起到根据词典项比较大小进行导航的作用，最底层的叶子节点存储单词的地址信息，根据这个地址就可以提取出单词字符串。

1.6 总结

单词ID：记录每个单词的单词编号；

单词：对应的单词；

文档频率：代表文档集合中有多少个文档包含某个单词

倒排列表：包含单词ID及其他必要信息

DocId：单词出现的文档id

TF：单词在某个文档中出现的次数

POS：单词在文档中出现的位置

以单词“加盟”为例，其单词编号为6，文档频率为3，代表整个文档集合中有三个文档包含这个单词，对应的倒排列表为{(2;1;<4>),(3;1;<7>),(5;1;<5>)}，含义是在文档2，3，5出现过这个单词，在每个文档的出现过1次，单词“加盟”在第一个文档的POS是4，即文档的第四个单词是“加盟”，其他的类似。

这个倒排索引已经是一个非常完备的索引系统，实际搜索系统的索引结构基本如此。

2. 手写倒排索引

2.1 trie定义：

在计算机科学中，trie又称前缀树（Prefix Tree），单词查找树或键树，是一种有序树，用于保存关联数组，其中的键通常是字符串。与二叉树不同，键不是直接保存在节点中，而是由节点在书中的位置决定。一个节点的所有子孙都有相同的前缀，也就是这个节点对应的字符串，而根节点对应字符串。一般情况下，不是所有的节点都有对应的值，只有叶子节点和部分内部节点所对应的键才有相关的值。

trie中的键通常是字符串，但也可以是其它的结构，trie的算法可以很容易的修改为处理其它结构的有序序列，比如一串数字或者形状的排列。

2.2 基本性质：

跟节点不包含字符，除跟节点以外每个节点只包含要给字符。
从跟节点到某一个节点，路径上经过的字符连接起来，为该节点对应的字符串。
每个节点的所有子节点包含的字符串不相同。

2.3 缺点：

当hash函数很好时，Trie树的查找效率会低于哈希搜索
空间消耗比较大。

2.4 例子

2.4.1文档

《华为华为手机华为平板华为牛逼鸿蒙华为鸿蒙操作系统》

2.4.2 分词

--华为

--华为手机

--华为平板

--华为牛逼

--鸿蒙

--华为鸿蒙操作系统

2.4.3 分析字典树图

（isEnd标记是否为词的尾节点，碰到节点为true时，便是一个词语）

2.4.4 代码实现：

创建Node


import lombok.Data;
import java.util.LinkedList;

/**
 * 字典树的节点
 */
@Data
public class Node {

    private char content;//存在当前节点的字
    private boolean isEnd;//是否是词的结尾
    private int count;//这个词在这个字下面的分支的个数
    private LinkedList<Node> childList;//子节点

    /**
     * 构造方法 初始化节点使用
     * @param c
     */
    public Node(char c){
        childList=new LinkedList<>();
        isEnd=false;
        content=c;
        count=0;
    }

    /**
     * 提供一个遍历node中的linkedList中是否有这个字。有就意味着可以继续查找下去，没有就没有
     * @param c
     * @return
     */
    public Node subNode(char c){
        if(null!=childList&&!childList.isEmpty()){
            for (Node node : childList) {
                if(node.content==c){
                    return node;
                }
            }
        }
        return null;
    }

}

创建TrieTree

/**
 * 字典树
 */
public class TrieTree {

    private Node root;//根

    public TrieTree(){
        root=new Node(' ');//构造一个空的根节点
    }

    /***
     * @Description: 查询
     * @Param: word 要判断的词
     * @return: 是否存在
     */
    public boolean search(String word){ //华为
        Node current=root;//从根节点开始找

        if(null!=word){
            //转成字符数组
            char[] chars = word.toCharArray();
            if(null!=chars&&chars.length>0){
                for (char c : chars) {
                    Node node = current.subNode(c);
                    if(null==node){//如果返回的子节点为空 说明不存在
                        return false;
                    }else{
                        current=current.subNode(c);
                    }
                }
                //判断当前节点是否是结束节点
                if(current.isEnd()){
                    return true;
                }else{
                    return false;
                }
            }else{
                return false;
            }
        }else{
            return false;
        }
    }


    /***
     * @Description: 插入方法，先判断是否有这个词，(通过上面的写的查询方法) 如果没有，。就一个一个按顺序判断里面的字
     * 如果有这个字，继续判断下一个，当没有字个字的时候，对空上字new Node对象，放到上一个字的LindkedList里面
     * @Param: [word]  要插入的分词
     * @return: void
     */
    public void insert(String word){ //华为电脑
        //判断有没有这个词  有就直接说这个词在整个字典数已存在
        if(this.search(word)){
            return;
        }
        //如果不存在 ，就从根节点一个一个找
        Node current=root;
        if(null!=word){
            char[] chars = word.toCharArray();
            if(null!=chars&&chars.length>0){
                for (char c : chars) {
                    Node child = current.subNode(c);
                    if(null!=child){
                        current=child;
                    }else{
                        //构造新的
                        current.getChildList().add(new Node(c));
                        current=current.subNode(c);
                    }
                    current.setCount(current.getCount()+1);//出现次数+1
                }
                //循环结束之后把最后一个字变成isEnd是true
                current.setEnd(true);
            }

        }

    }

    /***
     * @Description: 删除分词
     * @Param: [word] 要删除的分词
     * @return: void
     */
    public void deleteWord(String word) {
        //查询一个词在不在字典树
        if (this.search(word) == false) {
            return;
        }
        Node current = root;
        if (null != word) {
            char[] chars = word.toCharArray();
            if (null != chars && chars.length > 0) {
                for (char c : chars) {
                    Node node = current.subNode(c);
                    if (node.getCount() == 1) {
                        current.getChildList().remove(node);
                        return;
                    } else {
                        current.setCount(current.getCount() - 1);
                        current = node;
                    }
                }
                current.setEnd(false);//isend设置为false代表当前路上的字连起来不是一相词了
            }
        }
    }

}

测试：

public class TestTrieTree {
    public static void main(String[] args) {
        String content="华为-华为手机-华为平板-华为牛逼-鸿蒙-华为鸿蒙操作系统";
        //模拟分词
        String[] split = content.split("-");
        //构造字典树
        TrieTree trie = new TrieTree();
        //把分词插入
        for (String s : split) {
            trie.insert(s);
        }

        System.out.println(trie.search("华为"));
        System.out.println(trie.search("华为手"));

        trie.deleteWord("华为");
        System.out.println(trie.search("华为"));

        System.out.println(trie.search("华为手机"));

    }
}

结果：

申明：博文内容均来自网络，仅供学习笔记使用

夜未眠shm

关注

0
点赞
踩
2

收藏

觉得还不错? 一键收藏
0
评论
Lucene（九）拓展2-倒排索引

1. 倒排索引算法1.1 什么是倒排索引？见其名知其意，有倒排索引，对应肯定，有正向索引。正向索引（forward index），反向索引（inverted index）更熟悉的名字是倒排索引。在搜索引擎中每个文件都对应一个文件ID，文件内容被表示为一系列关键词的集合（实际上在搜索引擎索引库中，关键词也已经转换为关键词ID）。例如“文档1”经过分词，提取了20个关键词，每个关键词都会记录它在文档中的出现次数和出现位置。正向索引的结构如下： “文档1”的ID >...
复制链接

扫一扫

专栏目录