无参估计（上）：KNN（K nearst neighbor)

最新推荐文章于 2024-06-20 17:10:23 发布

D.Guan

最新推荐文章于 2024-06-20 17:10:23 发布

阅读量2k

点赞数

分类专栏：机器学习

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/BRAVE_NO1/article/details/83411649

版权

本文介绍了无参估计中的KNN（K近邻）算法，包括算法叙述、实现方法和K近邻搜索。KNN是基于训练数据的分类模型，涉及k值选择、距离度量和分类决策规则。文章详细讲解了如何通过kd树实现KNN搜索，并通过实例展示了特征空间划分的过程。

摘要由CSDN通过智能技术生成

无参估计：根据直方图定义概率公式： $p(x)=\frac{k}{NV}$ ,其中V:the volume surrounding X,N:the total number of examples

k：the number of the example inside V.

我们将无参估计分为两类：

固定V，求解k (KDE)
固定k,求解V（kNN)

本讲围绕kNN展开。

依旧从 $p(x)=\frac{k}{NV}$ ，我们对V进行定义: $V=C_{D}R_{k}^{D}(x)$ ,其中R是点x与k个临近点之间的距离。C是D维中单元范围的大小。

定义为 $C_{D}=\frac{2\pi^{D/2}}{D*\Gamma(D/2)}$ 。我们想将knn密度估计作为贝叶斯分类器：

定义先验概率(prior):

最低0.47元/天解锁文章

关注

0
点赞
踩
1

收藏

觉得还不错? 一键收藏
0
评论
无参估计（上）：KNN（K nearst neighbor)

无参估计：根据直方图定义概率公式：,其中V:the volume surrounding X,N:the total number of examplesk：the number of the example inside V.我们将无参估计分为两类：固定V，求解k (KDE) 固定k,求解V（kNN)本讲围绕kNN展开。依旧从，我们对V进行定义:,其中R是点x与k个临近点之间...
复制链接

扫一扫

专栏目录

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。