基本题型:平面上有黑白两类点,现在给出一个点问这个点的类别是黑点还是白点
基本思想:找到离这个点最近的K个点,看是黑点多还是白点多,分类到出现多的那类
如何高效地找到最近的点:K-D树(见ACM)
如何防止过拟合与欠拟合:加权KNN,就是说考虑距离,近的权重高
如何选择合适的K值:交叉验证(选不同的K去讨论它的命中率,选命中率最高的那个K)
假设现在取K是1,一共有一万个点,我取其中九千个作为训练集,一千个作为测集集,这一千个点的分类命中率就可以求了,然后在这一万个点中再随机取九千个为训练集,一千个为测试集,重复多次取均值就是K为1时的命中率。当K取不同的值时,就会有不同的命中率,取命中率高的那个K值
KNN
最新推荐文章于 2024-04-04 14:07:06 发布