《向量数据库指南》——博世智驾向量检索的选型之道

向量检索的选型之道

博世智能驾驶业务使用的预训练大模型参数量已经达到数十亿，特征维度都在1000多维以上。以1024维为例，每个特征值如果是浮点数（4字节），那么一个特征在内存中的存储就需要大约4KB。这样的存储需求在大规模数据处理时会导致资源消耗巨大，从而使存储和计算成本变得非常高。

博世智能驾控的图像数据量是巨大的，当前已经至少达到数百亿甚至千亿级别，并且还在增长。在经过基于时序分片的聚类去重后，最终需要入库检索的数据量也在十亿级别。在向量数据库的选型过程中，博世智能驾控通过引入量化索引+分片技术来降低资源消耗，同时提高数据处理的效率。其中量化索引技术更适合大规模数据高效存储和高维特征的索引策略。而分片技术适应数据规模的增长，从而使得大规模的实时检索成为可能，同时提高了计算资源的利用效率。团队做了以下尝试或者调研：

• 在nlp领域，智能问答知识库召回场景很多都采用了 HNSW 图索引，这是一种广泛使用的索引方法，它虽然简单易用，但需