KNN和ANN的异同 |

1.KNN

KNN (K Nearest Neighbor) 问题，也叫作K最近邻问题。

是要在欧式空间中找到离给定点最近的K个点，在空间中每个点都以向量表示。（欧式距离是绝对距离，在前面的博客中有补充）

解决KNN问题，最容易想到的方案就是暴力搜索，只需要计算给定点到其他每个点的距离，然后进行Top K排序就可以了。这种方案的优点是精准，找到的一定是最近的K个点；但缺点也是显而易见的，即耗时严重，尤其是在点的数量非常多，向量维数很高的时候，往往无法在实际生产环境中使用。

一般来说，精准找到K个最近邻往往代价很大，所以在实际应用中，KNN问题常常被弱化成ANN (Approximate Nearest Neighbor) 问题，即近似最近邻问题。相应的各种ANN算法，都是通过牺牲一定的精度来换取时间和空间上的优势。

在业界，ANN算法常常被分为四个大类：

1. 基于树结构的
2. 基于Hash的
3. 基于量化 (Quantization) 的
4. 基于图 (Graph) 的

目前一个普遍的看法是，基于图的算法一般要优于其它三种类型的算法，表现在查询的速度和召回率上面。

在基于图的ANN算法中，如何构造图的结构至关重要，更准确一些来说的话，是边的构造至关重要。在后面的章节中，本文会针对一些图算法和结构，例如Delaunay Graph，Monotonic Search Network，Relative Neighborhood Graphs等进行深入的探讨。

2.ANN

ANN (Approximate Nearest Neighbor，近似最近邻) 

参考

理解近似最近邻 (ANN) 问题中的图算法：Voronoi Diagram，Delaunay Graph，MSNET，RNG，MRNG和NSG - 知乎 (zhihu.com)