最邻近搜索之KD-Tree 与 LSH

最新推荐文章于 2022-06-10 21:04:48 发布
最新推荐文章于 2022-06-10 21:04:48 发布
阅读量720 收藏
点赞数
分类专栏： 特征工程 广告推荐 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Madazy/article/details/92761063
版权

最邻近搜索之KD-Tree 与 LSH

在内容搜索、推荐系统和一些机器学习算法常常遇到最邻近搜索问题，在大数据场景下，O(n)的时间复杂度往往是不能被接受的，所以需要一些方法来返回近似的解或用空间复杂度以换取更优的时间开销。

什么是最邻近搜索问题？

在这里插入图片描述
在这里插入图片描述

Madazy
关注
专栏目录
推荐系统[九]项目技术细节讲解z3：向量检索技术与ANN搜索算法[KD树、Annoy、LSH局部哈希、PQ乘积量化、IVFPQ倒排乘积量化、HNSW层级图搜索等]，超级详细技术原理讲解
丨汀、的博客
03-09 965
如何表达一个物品/元素?在现实世界中，我们认识和理解一个事物，总是会想办法捕捉它的一些特质或者属性。比如路边一朵红色的野花，那么仅从颜色这个维度，我们可以使用离散的0，1来表达。如 【1，0，0】 但仅从颜色描述是不够的，还有花的种类，气味，高度，用途等等。把所有的属性枚举出来，排列好位置，元素对应属性的位置点亮，那么一朵沁人心脾的红色梅花 = 【1，0，0，1，0，0，1，0】 上面分别就是 one-hot 与multi-hot的编码标识，在传统机器学习中比较常见。但这样会遇到几个问题:embedding
LSH-局部敏感哈希在k-NN算法中的应用
佐井白白的微笑
01-04 811
本内容整理自coursera,欢迎交流转载。 1.KD-Tree算法的局限性在前一篇博客里，我介绍了KD-Tree来简化最邻近查找算法，降低了计算量，但是KD-Tree真的是最好的吗？有没有对于k-NN算法更好的找到最邻近数据的方法呢？ 先来说一下KD-Tree不好的地方，首先算法效率不高；第二，问题需要在高维数据求解。 如何理解“高维”呢？在前一篇博客里，我们的数据集只有X和Y两个特征，但是在
【常用算法】KDTree，局部敏感哈希LSH，在基于最近邻的算法中，当N特别大的时候（TODO）
一个正在进步的小伙子★_★
05-09 2481
基于最近邻的算法，在各种情况下经常使用，但是当N特别大的时候，效率不是很高，比如当N=10^5，时已经不太好算了 暴力法：O(N^2) KDT： O(N*sqrt(N) 局部敏感哈希(LSH)：跟桶大小有关
压缩映射：简单最邻近搜索-（SLH）Simple Linear Hash
alppkk4545的博客
05-18 261
Compact Projection: Simple and Efficient Near Neighbor Search with Practical memory Requirement Autor：Kerui Min1,2, Linjun Yang2, John Wright2, Lei Wu2,3, Xian-Sheng Hua2, Yi ...
KD-Tree and LSH
weixin_45649258的博客
06-10 131
KD-Tree and LSH
邻近搜索(Annoy HNSW LSH KD tree)
weixin_42529756的博客
05-29 774
大纲 Annoy：Approximate Nearest Neighbors Oh Yeah HNSW：Hierarchcal Navigable Small World graphs KD Tree：K dimentional Tree LSH：Locality Sensitive Hashing Annoy Annoy 是 Spotify 开源的高维空间求近似最近邻的库，在 Spotify 使用它进行音乐推荐。 Annoy通过将海量数据建立成一个二叉树来使得每个数据查找时 间复杂度是O(log n)。
matlab knnsearchidx,matlab查找最临近搜索knnsearch
weixin_35143292的博客
03-19 231
[Idx,D] =knnsearch(___)additionally returns the matrixD, using any of the input arguments in the previous syntaxes.Dcontains the distances between each observation inYand the corresponding clos...
OpenCV——KD Tree（介绍完整的flann邻近搜索）
热门推荐
ErenTuring的博客
06-10 2万+
关于OpenCV的FLANN库中KD-Tree搜索的文章并不多。 FLANN搜索的流程包括索引的建立和搜索。而所谓kd-tree搜索，指的是在建立索引这一步骤中建立的是kd-tree索引。 本文将结合实例，较为完整地介绍FLANN（近似近邻的快速搜素库）里各种类型“索引建立”及“搜索方式”。
最邻近方法nn_《k-NN最临近》知识点整理与思考
weixin_39605894的博客
12-22 866
一、k最近邻(kNN)的基本概念k最近邻(k-Nearest Neighbors，k-NN)，采用该算法要实现对一个新的数据点做出预测，其会在训练集中寻找与这个新数据点距离最近的数据点，然后将找到的数据点的标签赋值给这个新数据点。k-NN属于最简单的监督学习(supervised learning)算法之一，可用于分类(classification)、回归(regression)问题，其不需要对训...
基于LSH的中文文本快速检索
12-30
传统的方法如R-tree、Kd-tree和SR-tree等，在向量维度超过10时，其效率往往不如简单的线性检索。因此，**位置敏感哈希（Locality Sensitive Hashing, LSH）**作为一种高效检索高维数据的技术，受到了广泛的关注。 #...
kdtree搜索近邻
07-16
KD树搜索近邻。输入点云为随机生成的，可以换成自己的点云数据。
海量空间数据点k近邻的快速搜索算法
03-15
此资源为期刊论文。海量空间数据点k近邻的快速搜索算法，希望能给大家带来帮助
K近邻算法(分层聚类KNN和KDtree KNN)
05-08
K近邻算法matlab实现，包括分层聚类KNN和KDtree KNN，有什么建议，欢迎与我交流，谢谢
KD树和LSH局部敏感哈希
YoungGy的专栏
03-09 1710
KD树和LSH
amcl 代码研究(6)——pf_kdtree(1)
WangQiang319670的博客
01-30 1433
amcl中采用了粒子滤波方法，其中的数据结构为kd-tree，现分析如下： typedef struct { double v[3]; } pf_vector_t; //向量// The basic matrix typedef struct { double m[3][3]; } pf_matrix_t; //矩阵KD-Tree: // Info
最近邻和K近邻及其优化算法LSH（局部敏感哈希，Locality Sensitive Hashing） Kd-Tree
心之所向
07-03 2876
引言 在处理大量高维数据时，如何快速地找到最相似的数据是一个比较难的问题。如果是低维的小量数据，线性查找（Linear Search）就可以解决，但面对海量的高维数据集如果采用线性查找将会非常耗时。因此，为了解决该问题通常采用些优化算法。称之为近似最近邻查找（Approximate Nearest Neighbor），例如kd-tree with best bin first,locality...
统计机器学习【3】- K近邻法（三）Ball Tree
weixin_43763859的博客
05-26 4128
在计算机科学中，球树（ball tree）是一种空间划分数据结构，用于组织在多维空间中的点。球数之所有得到此名，是因为它将数据点划分为一组嵌套的超球体。这种类型的数据结构特征使其在很多方面都有用，特别是在最近邻搜索。 一般的在特征向量维度小于20的时候是可以用KD-Tree的，但是更高维度的时候建议使用Ball-Tree，这种算法的效率更高 非正式描述 球树是二叉树，其中每个结点定义一个d维的超球面，或称为球， 其中包含被搜索的点的子集。树的每个内部结点将数据点划分为两个不相交的集合，这两个集合与不同的球相
BallTree结构和答疑
我的备忘录
11-28 2725
好多关于balltree的博客, 但都说的不清不楚, 看得头大. 先贴一张github上搜来的balltree的节点结构: lowest_leaf, highest_leaf不知道是什么. left_child, right_child好解释, 左右节点. permutation, 好像是存储什么东西的排序, 不懂. ranges, 存储半径. centers, 存储圆心/球心. weights...
knn基础与优化2--ball tree、LSH
yeqiustu的博客
05-13 1873
ball-tree 为了改进KDtree的二叉树树形结构、以及沿着笛卡尔坐标进行划分的低效率，ball tree将使用超球面而不是超平面来划分空间。虽然在构建数据结构的花费上大过于KDtree，但是在高维甚至很高维的数据上都表现的很高效。 LSH LSH（Locality Sensitive Hashing），局部敏感哈希 ...
LSH算法详解：邻近搜索的高效解决方案
NN问题，即最近邻搜索，是指寻找与给定查询对象最相似的数据点。由于实际应用中的数据集往往庞大且维度高，这导致传统的精确搜索方法在时间和空间复杂性上面临挑战。因此，开发出在大数据背景下依然保持效率的近似...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值