k-近邻算法概述
定义
:简单地说,k近邻算法采用测量不同特征值之间的距离进行分类
原理
:存在一个样本数据集合,也称作训练样本集,并且样本集中每个数据都存在标签,即我们知道样本集中每一数据与所属分类的对应关系,输入没有标签的新数据后,将新数据的特征与样本集中数据对应的特征进行比较,然后计算出算法提取样本集中特征最相似数据的分类标签
算法小解
如上图,已知六部电影,他们分别有自己的数据与标签,即通过打斗次数与亲吻次数判断出是爱情片还是动作片。现在另有一部电影,已知亲吻次数与打斗次数要推断出其是爱情片还是动作片。我们在坐标轴上标出其位置,然后找出与它距离最近的三部电影,发现这三部电影都为爱情片,则推断出此电影为爱情片。
数学公式
已知图上两点A,B 则要求AB两点的距离 则需要公式
d=(xA0−xB0)2+(xA1−xB