【AI知识点】分层可导航小世界网络算法 HNSW（Hierarchical Navigable Small World）

已于 2024-10-17 10:26:13 修改
阅读量1.7k 收藏 22
点赞数 23
分类专栏： AI知识点 文章标签： 人工智能 算法 机器学习 近似最近邻搜索 图像检索 推荐系统 文本检索
于 2024-10-04 11:43:47 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43221845/article/details/142699423
版权

【AI论文解读】【AI知识点】【AI小项目】【AI战略思考】

HNSW（Hierarchical Navigable Small World）分层可导航小世界网络算法 是一种高效的近似最近邻搜索（Approximate Nearest Neighbor Search, ANN） 算法，特别适用于大规模、高维数据集的相似性检索。HNSW 基于小世界网络（small-world networks）原理，通过构建一个多层次的图结构，能够快速找到与查询点相似的数据点。它在实践中非常流行，广泛用于需要快速搜索高维数据的任务，例如图像检索、推荐系统、文本嵌入向量检索等。

1. HNSW的背景

在处理高维数据时，经典的最近邻搜索方法（如暴力搜索）由于计算

最低0.47元/天 解锁文章
HNSW 向量相似搜索算法：Hierarchical Navigable Small Worlds (HNSW) 分层可导航小世界
AI天才研究院
04-04 573
尽管较高的参数值可以为我们提供更好的召回率，但对搜索时间的影响可能会很大。由此，我们可以看到在级别 0 插入向量的概率明显高于在更高级别插入向量的概率（尽管正如我们将在下面解释的那样，该概率并不完全按照此处的定义）。如果我们发现当前节点“key”大于我们正在搜索的key——我们就知道我们已经超出了我们的目标，所以我们向下移动到下一个级别的前一个节点。我们从“缩小”阶段开始，在该阶段中，我们会经过低度数的顶点（度数是顶点所具有的链接数量），然后是“放大”阶段，在该阶段中，我们会经过较高度数的顶点 [8]。
一文看懂HNSW算法理论的来龙去脉
热门推荐
u011233351的博客
12-21 6万+
 HNSW算法----Hierarchcal Navigable Small World graphs，第一贡献者：Y.Malkov(俄) 一.背景介绍         在浩渺的数据长河中做高效率相似性查找一直以来都是让人头疼的问题。比如，我在搜狗app上阅读了一篇文章，推荐系统就应当为我推送与这篇文章最相近的文章，数据库中所有文章是用向量表示的，所以我们要解决的问题就是“找到与这篇文章的向量...
【记录一下】Hierarchical Navigable Small Worlds（HNSW）是什么玩意？
风信子的博客
03-07 556
HNSW基于小世界网络（small-world networks）原理，通过构建一个多层次的图结构，能够快速找到与查询点相似的数据点。具体来说，HNSW将数据点组织成一个分层图结构，每一层的图结构代表数据的不同分辨率。在高层次，数据点的数量较少，连接关系较少，搜索效率较高；在底层，数据点的数量较多，连接关系更密集，能够更精确地找到最近邻。
【大模型理论篇】高效的向量搜索算法——分层可导航小世界图（HNSW）
源泉的小广场
07-01 3379
高效向量搜索，HNSW，复杂网络，网络科学，小世界现象，小世界网络，六度分隔，相似性搜索，向量搜索，自然语言处理，生成式人工智能，近似最近邻（ANN），树结构，图结构，分层可导航小世界图（HNSW），数字地图
HNSW（Hierarchical Navigable Small World）算法
gggfJJ的博客
01-28 853
HNSW 是一种高效的近似最近邻搜索算法，通过构建多层小世界图实现快速搜索。它的核心优势在于高效、动态和可调，适用于大规模高维数据的检索任务。通过调整参数（如。
HNSW算法
weixin_36378508的博客
09-03 2966
HNSW算法----Hierarchcal Navigable Small World graphs 第一贡献者：Y.Malkov(俄) 一.背景介绍 NN最近邻搜索广泛应用在各类搜索、分类任务中，在超大的数据集上因为效率原因转化为ANN，常见的算法有KD树、LSH、IVFPQ和本文提到的HNSW。 HNSW（Hierarchical Navigable Small World）是ANN搜索领域基于图的算法，我们要做的是把D维空间中所有的向量构建成一张相互联通的图，并基于这张图搜索某个顶点的K个最近邻
HNSW算法详解
半城月的专栏
04-26 1万+
基于图的向量检索算法在向量检索的评测中性能都是比较优异的，而且用途广泛。本文结合hnswlib源码，从数据结构，添加节点，更新节点，搜索节点等方面对hnsw算法进行了详细的阐述。
【AI认证】深入解析HNSW算法：向量数据库的性能革命
海棠AI实验室
02-05 1150
在人工智能和向量数据库的研究中，HNSW（分层可导航小世界）算法已经成为一种革命性的高效搜索技术，特别是在大规模数据检索和向量搜索领域。HNSW凭借其卓越的性能和高效的检索机制，正在推动人工智能搜索的发展。本篇文章将深入探讨HNSW算法的原理、应用及其在AI领域中的最佳实践，帮助你理解如何利用这一工具提升搜索效率和性能。HNSW（Hierarchical Navigable Small World）是一种基于图形的搜索算法，专门设计用于处理向量数据库中的高效检索。
【AI知识点】近似最近邻搜索（ANN, Approximate Nearest Neighbor Search）
AI完全体
10-03 4116
近似最近邻搜索（ANN） 是一种为了提升高维数据相似性搜索效率的技术，它在牺牲一定精度的前提下，大大提升了搜索速度。它被广泛应用于推荐系统、图像检索、文本相似性搜索等实际场景。常见的ANN算法包括局部敏感哈希（LSH）、图嵌入法（如HNSW）、矢量量化（VQ）等，它们通过不同的方式优化搜索过程，解决了高维数据中的“维度灾难”问题。
【愚公系列】《AI Agent技术、应用与商业》006-Al Agent的架构和组成
最新发布
时光隧道
03-11 7159
在人工智能的快速发展中，智能代理（AI Agent）成为了推动各行各业智能化转型的重要力量。无论是在智能客服、智能推荐，还是在自动化决策系统中，智能代理都扮演着至关重要的角色。然而，很多人对智能代理的内部架构和组成部分仍然感到陌生。它们是如何工作的？又由哪些关键组件构成？在这篇文章中，我们将深入探讨智能代理的架构与组成部分，解析其背后的设计理念和技术原理。我们将了解智能代理的核心模块，包括感知、决策、行动和学习等功能，并探讨它们如何协同工作，共同实现智能代理的全面功能。
推荐算法：HNSW算法简介
codename_cys的博客
09-25 8232
推荐算法：HNSW算法简介
hnswlib,基于层次导航小世界图的近似最近邻搜索Java库.zip
09-25
正在进行中的Java实现分层可导航小世界图（HNSW）算法进行近似最近邻搜索。
WS小世界网络生成算法
04-22
WS小世界网络生成算法 MATLAB程序
HNSW算法的Rust实现 (Malkov -Yashunin)
06-11
功能: 标准数值类型向量的常用距离为 L1、L2、余弦、Jaccard、Hamming。 概率分布（f32 和 f64）之间的 Hellinger 距离和 Jeffreys 散度。必须注意的是，Jeffreys 散度（对称的 Kullback-Leibler 散度）不满足三角不等式。（没有余弦距离！）。 概率分布（f32 和 f64）之间的 Jensen-Shannon 距离。它被定义为 Jensen-Shannon 散度的平方根，是一个有界度量。参见Nielsen F. in Entropy 2019, 21(5), 485 u16 上的 Levenshtein 距离。 使用户能够实现自己的距离的特征。它将满足 T:Serialize+Clone+Send+Sync 的类型 T 的数据切片作为数据切片。也可以使用 C 外部函数或闭包。 一个面向 C 的接口，更具体地说是Julia语言的接口。请参阅配套的 Julia 包HnswAnn.jl和构建段落以获得对 Julia 用户的一些帮助。 多线程插入和搜索请求。 转储和重新加载函数（参见模块 hnswio）在
Hierarchical Navigable Small World (HNSW)算法
浙大软院研究生，数据库方向
07-26 1488
HNSW的主要idea是构建一个图，使得两个点之间只需要很短的几跳究竟能到达（这也是大部分graph-based算法所关注到的）根据现实世界的六度握手原理：世界上所有的人都能够在六次联系内联系到另一个人在介绍HNSW的工作流程前，先介绍一下跳表（skip lists）和可导航小世界（navigable small world）。这是一个概率数据结构，可在排序列表中插入和搜索元素，平均耗时为Ologn。跳表由多层列表组成，最底层是原始列表（所有元素），层数越高，被跳过的元素越多，连接数越少。
HNSW算法的基本原理及使用
HAXIMOF的博客
12-19 5282
m_L来增加在更高层插入的可能性，但差异很小，非常随机(概率可能向上/向下移动)，并且还会改变计算出的最佳层数，因此除非您有特定的原因，否则不值得更改-并且Faiss不支持更改这一点(至少从Python包装器中)。我们沿着每个层的边缘遍历，就像我们在 NSW 中所做的那样，贪婪地移动到最近的顶点，直到找到一个局部最小值。在这里，会产生两个向量,分别是 - assign_probas，表示在给定层插入的概率，cum_nneighbor_per_level，表示在不同的插入级别上分配给顶点的最近邻的累积总数。
HNSW（Hierarchical Navigable Small World）
weixin_61597480的博客
11-24 1828
是Yury A. Malkov提出的一种基于图索引的方法，它是Yury A. Malkov在他本人之前工作NSW上一种改进。通过采用层状结构，将边按特征半径进行分层，使每个顶点在所有层中平均度数变为常数，从而将NSW的计算复杂度由多重对数(Polylogarithmic)复杂度降到了对数(logarithmic)复杂度。HNSW的发展历程是从SW->NSW>HNSW。节点之间通常有较高的连接度，即邻居节点之间往往彼此相连，形成聚集或团簇，任意两个节点之间的平均路径长度较短。
HNSW算法原理（一）
CHIERYU的专栏
01-22 9891
原文链接：https://blog.csdn.net/CHIERYU/article/details/81989920 HNSW算法可类比于skip lists数据结构，对于增和查操作，其与skip lists有很多相同之处，下面讲讲HNSW算法中的2个关键问题，即：如何确定待插入点的层次，如何调参。 一、HSNW算法将样本插入到第几层 每个样本属于哪个层呢？ 首先要写一个确定层次的...
深入浅出Skip List和Hierarchical Navigable Small World
Hierarchical Navigable Small World（HNSW）是在高维数据检索应用中著名的近似近邻查找算法。其同样借鉴跳表生成多层的方法，生成多层图结构，实现高效的索引生成与检索。HNSW主要应用于多媒体等高维数据的检索，...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值