XAPIAN简介(一)

1. IR简介

   谈到xapian就得先提基本概念,xapian,lucene是什么?他们这些的本质就是**IR 信息检索(Information Retrieval)**的实现方式。再直白点就是你给我一个关键词,我给你从筛选出一堆你想要的文章。
   那就先聊聊信息检索的基本概念,首先我们拿到一篇文章就是要分词,也就是去掉无意义的词。
   举个例子:
   文件一:Students should be allowed to go out with their friends, but not allowed to drink beer.
   那么我经过分词得到词元(Token)如下:     “Students”,“allowed”,“go”,“their”,“friends”,“allowed”,“drink”,“beer”,“My”,“friend”,“Jerry”,“went”,“school”,“see”,“his”,“students”,“found”,“them”,“drunk”,“allowed”

而这些词中有很多再提取词干,如“cars”到“car”等,我们把提取的词干称之为term(词)。
常见的分词技术一般都是基于mmseg算法。常用的分词器有firso等。然后这些term和document之间会创建索引,大家可以想象为书籍的目录。之后的系列文章我会剖析xapian的源码,给大家聊xapian的c++架构包大家爽。

2. xapian的数据库文件结构

我谈的版本是xapian1.2.2版本是最新的稳定开发版本。
XAPIAN创建数据库后主要有如下7张表,相对而言前面三张表是重点 。
1. posting listtable 保存了被每一个term索引的document,实际上保存的应该是document在database中的Id,此Id是唯一的。
2. record table 保存了每一个document所关联的data,data不能通过query检索,只能通过document来获取。
3. term list table 保存了索引每个document的所有的term。
4. position listtable 保存了每一个Term出现在每一个document中的位置。
5. value table 保存了每一个document的values,values是用作保存、排序或其它作用的。
6. spellingtable 保存了拼写纠正的数据。
7. synonymtable 保存术语的字典,例如NBA、C#或C++等。

然后查询的时候,可以说是我知道了你给的term,我就能在posting listtable中查询到含有这个term的document的id。而决策出document的先后顺序,则有很多算法,例如BM25,BOOL算法等。具体的算法我并不谈,我主要是来谈xapian的C++代码的。

3.xapian的源代码目录和结构

1.下载源码在linux下,直接
./configue
make
make install(这步不成功也不用慌张,只要make没出错就行)
编译好后就会有
libxapian.a
libgetopt.a
libflintcheck.a 1.0V (1.0版本以后出现)
libchertcheck.a 1.2V (1.2版本以后出现)
libbrasscheck.a 1.4V (1.4版本以后出现)
上面第三步出错的同学,你在xapian的目录下输入ls -a然后看到了那个.lib文件夹了吧,把里面我提到的这几个库拷贝到你想拷贝的目录下就好了,程序link的时候指向你的那个目录就好了。
libflintcheck.a,libchertcheck.a ,libbrasscheck.a 分别是xapian的三种数据存储格式。
这里写图片描述
我们用的头文件在include文件夹下,即xapian.h,这个文件其实是一个总的头文件,里面引用了xapian各个模块的API。具体的API看官网帮助文档。
api目录下给的都不是实际代码的实现,只是一个架子,也就是你看的给你用的头文件直接对应的.cc。xapian使用了pimpl的设计模式,即实际做事的是类的一个私有成员,这个成员是一个类的指针也是一个接口类,用的C++多态实现了chert,barss,flint三种数据模式的切换。
C++功力不深的同学想研究xapian的实现,就直接看backends目录下的源码吧,这里面都是实际功能的实现。

  • 1
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
Python Xapian(简称xapian)是一个用于全文搜索和信息检索的开源工具库。它提供了Python语言的接口,使得我们可以方便地在Python环境中使用xapian的功能。 xapian是一种基于倒排索引的搜索引擎。它的主要特点是快速、可扩展,以及支持多种语言。我们可以利用xapian来创建和维护一个倒排索引库,然后在这个库上进行全文搜索和信息检索。 使用xapian,我们可以将一个文本集合中的文档添加到索引库中。这个索引库可以包含多个字段,每个字段可以是不同的文本类型(例如标题、正文、作者等)。然后,我们可以使用查询语句在这个索引库中进行搜索。xapian支持多种查询类型,例如布尔查询、短语查询、通配符查询等。 除了基本的全文搜索,xapian还提供了一些高级功能。例如,我们可以使用xapian来计算查询和文档之间的相关性得分,从而对搜索结果进行排序。xapian还支持结果分页、结果高亮显示等功能,使得搜索结果更易于阅读和理解。 使用Python Xapian,我们可以在Python程序中轻松地集成全文搜索和信息检索功能。它可以应用于各种场景,例如网站搜索引擎、文档管理系统、邮件分类等。通过合理使用xapian的功能,我们可以帮助用户快速准确地找到他们所需的信息,提高用户体验和效率。 总之,Python Xapian是一个功能强大、易于使用的全文搜索和信息检索工具库。它提供了丰富的功能和灵活的接口,可以满足不同应用的需求。无论是初学者还是专业开发人员,都可以利用xapian来构建高效的搜索和检索系统。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值