k近邻算法
输入:训练集,和一个x
输出:这个x的标签y
k近邻算法没有一个显示的模型形式
k等于1是最近邻模型,就像下面的图
在训练集合当中,黑色的实线是训练集合两个点的等分线,实线边上的点到两边中心点的距离相等
距离的选择:
Lp的计算。P范数。注意有绝对值
p=1的时候,按照计算法则,菱形边上的点到原点的距离一样 (曼哈顿距离)
p=2的时候,按照计算法则,圆形边上的点到原点的距离一样 (欧氏距离)
p=无穷的时候,按照计算法则,矩形边上的点到原点的距离一样
p不同的区别:
偏小一点,考虑到了,每一个分量都会考虑
偏大一点,考虑到了,输入变量相差差值最大的变量能相差较小
注意区分:正则项可以看成是到原点的距离
KNN K近邻算法学习及其概念
最新推荐文章于 2024-07-30 17:23:09 发布