本文介绍了 Havenask 作为一款高性能的召回搜索引擎,应用在向量检索和LLM智能问答场景的解决方案和核心优势。
通过Havenask向量检索+大模型可以构建可靠的垂直领域的智能问答方案,同时快速在业务场景中进行实践及应用。
更多技术交流,文末加入我们进行技术讨论
Havenask介绍
向量检索
近年来,随着短视频、电商等领域的繁荣,产生了越来越多的非结构化数据,如图片、音频、视频、行为数据等。人们通常使用人工智能算法从中提取出特征向量,再通过对这些特征向量的计算和检索来实现对非结构化数据的分析与检索,以实现搜索推荐、人脸识别等功能场景。因此,需要存储这些特征向量,并进行高效率的检索。
传统的基于关键字的信息检索,只有命中全部或者部分关键字的数据才会被召回。与此不同的是,向量检索是一种近似搜索(Approximate Nearest Neighbor),从大量数据中找出最相似的n个结果。在业界主要有两种支持向量检索的方式:一是针对向量构建索引、提供召回服务的向量数据库。另一种是将向量检索融合进传统的搜索引擎或中,作为搜索引擎的一种索引。将传统倒排索引与向量检索配合使用,二者互补,提高召回结果的相关性。
Havenask作为传统的搜索引擎,深度集成阿里自研的高性能向量库Proxima,实现了对向量检索的支持。在Havenask中有多种倒排索引,如文本索引、数字索引、字符串索引等。而向量作为一种特殊的自定义索引,与其他普通的倒排索引一样地使用,从而可以将向量检索与文本检索结合起来,实现向量与文本的混合检索。
使用方式
- 与文本倒排结合
目前,向量索引是Havenask的一种自定义索引,可以与其他倒排索引一起结合使用。业务上比较常见的使用方式,如在nlp场景,将向量检索的结果与文本检索的结果合并起来,丰富结果内容。文本检索保证查询的精确度,向量检索扩展语义提供更广泛的内容。二者相互补充,能够提升结果的准确性,降低无结果率。
vector:'0.1,0.2,0.3' OR ((title:'havenask' OR content:'havenask') AND type:'1')
解析后的查询语法树:
每个叶子节点做索引的查询,之后合并结果。
- 带条件过滤检索
在大多数业务场景中,通常会带有特定的过滤条件,只召回满足条件的结果。Havenask的向量检索将条件过滤和向量相似度计算结合起来,精确判断过滤条件,进行高效的向量检索。从而使得结果更加准确,且不会缺少结果。
如:
Query: vector:'0.1,0.2,0.3'Filter: count > 10
- 带标签检索
在一些场景下,数据是按某些特定的标签进行分类。 如数据按用户维度组织,一次查询只查询某个指定用户下的数据。针对这种场景,Havenask提供了按标签查询的功能,在建索引时就将数据按标签分类,从物理上将数据按标签隔离,分别构建索引。查询时,只需要检索相应用户的索引数据。这样能够提高向量检索的性能和准确性。
索引构建方式
目前Havenask支持HNSW(图)、QC(量化距离)、Linear(暴力计算)三种索引构建方式。
- HNSW
HNSW是经典的多层图算法,召回率高、性能好,适用于对召回结果要求高的场景。
- QC
QC表示量化聚类,与Fassis的IVF类似,通过聚类的方式构建向量索引。且支持int8、int16量化,量化后能够显著地减少索引的体积,并且保证较高的召回率。适用于超大规模的向量场景,节省资源。
- Linear
Linear为暴力计算,会遍历所有的索引数据,适用于数据规模非常小的场景。
LLM 问答
ChatGPT的出现带起了大模型热,大模型能够帮助从大量的信息里总结出关键的信息。很多企业或者个人都希望构建知识库,通过大模型进行归纳、总结后回答问题。
下图是典型的知识库构建流程:
整体流程可以分为两部分:数据处理和问答流程。
- 数据处理
这部分主要功能是将已有的知识数据向量化,依赖文本向量化模型,将文本数据向量化,生成的向量数据存入Havenask中。处理步骤如下:
-
从原始文档中提取出所有的文本数据,按文本语义将文本切分成多个chunk
-
将这些chunk丢给文本模型,生成embedding数据
-
将embedding和chunk,以及chunk所属的原始文档的一些属性信息(如文件名、文章地址等)一起存入Havenask中
- 问答流程
这部分主要处理与LLM的交互,依赖和数据处理一样的文本模型以及一个大模型。可以分为三个步骤:
-
将输入的问题丢给文本模型,生成embedding数据
-
将embedding数据以及一些其他的查询条件(如:查询的用户ID等)给到Havenask,查询获取最相关或相似的内容。这里的查询条件可以将向量与文本以及其他一些属性信息相结合,以便查询出更加精确的知识,降低无结果率。
-
让LLM根据获得的最相关的内容,以及问题推理出答案。查询LLM的prompt可能如下:
请根据以下已知信息,简洁和专业的来回答用户的问题。如果无法从中得到答案,请说不知道,不允许在答案中添加编造成分,答案请使用中文。已知信息: 内容1 内容2 ...问题: 问题内容
最后将结果展示给用户:
性能
下面是Havenask向量检索的测试数据:
总结
Havenask 通过深度集成 proxima 向量库,以 Havenask 中的一种索引类型的方式支持向量检索。支持向量与文本的混合查询、带标签的向量查询、以及支持按过滤条件的向量查询。支持HNSW、QC、Linear等3种向量索引构建方式。支持超大规模的向量数据,支持水平扩展,具有低延迟、高吞吐的特点。
技术交流
前沿技术资讯、算法交流、求职内推、算法竞赛、面试交流(校招、社招、实习)等、与 10000+来自港科大、北大、清华、中科院、CMU、腾讯、百度等名校名企开发者互动交流~
我们建了算法岗面试与技术交流群, 想要进交流群、需要源码&资料、提升技术的同学,可以直接加微信号:mlc2060。加的时候备注一下:研究方向 +学校/公司+CSDN,即可。然后就可以拉你进群了。
方式①、微信搜索公众号:机器学习社区,后台回复:技术交流
方式②、添加微信号:mlc2060,备注:技术交流+CSDN
用通俗易懂的方式讲解系列
- 用通俗易懂的方式讲解:不用再找了,这是大模型最全的面试题库
- 用通俗易懂的方式讲解:这是我见过的最适合大模型小白的 PyTorch 中文课程
- 用通俗易懂的方式讲解:一文讲透最热的大模型开发框架 LangChain
- 用通俗易懂的方式讲解:基于 LangChain + ChatGLM搭建知识本地库
- 用通俗易懂的方式讲解:基于大模型的知识问答系统全面总结
- 用通俗易懂的方式讲解:ChatGLM3 基础模型多轮对话微调
- 用通俗易懂的方式讲解:最火的大模型训练框架 DeepSpeed 详解来了
- 用通俗易懂的方式讲解:这应该是最全的大模型训练与微调关键技术梳理
- 用通俗易懂的方式讲解:Stable Diffusion 微调及推理优化实践指南
- 用通俗易懂的方式讲解:大模型训练过程概述
- 用通俗易懂的方式讲解:专补大模型短板的RAG
- 用通俗易懂的方式讲解:大模型LLM Agent在 Text2SQL 应用上的实践
- 用通俗易懂的方式讲解:大模型 LLM RAG在 Text2SQL 上的应用实践
- 用通俗易懂的方式讲解:大模型微调方法总结
- 用通俗易懂的方式讲解:涨知识了,这篇大模型 LangChain 框架与使用示例太棒了
- 用通俗易懂的方式讲解:掌握大模型这些优化技术,优雅地进行大模型的训练和推理!
- 用通俗易懂的方式讲解:九大最热门的开源大模型 Agent 框架来了