一、KNN与SVM的区别
KNN是临近算法,
k值决定了圆圈的大小。
原本有一些样本,再来一个看看它是属于哪个
SVM分类算法
svm根据提供的黑点与白点找出决策边界,再来一个点看他是属于哪个范围。
要解决的问题
knn分类问题,离哪些点比较近 ,就归为哪一类
svm分类问题,找决策边界,把数据进行划开
二、SVM分类的原理
1. 支持向量积
比喻,相当于让中间的路更宽更好, 由此来定决策边界 边界临近的点就是支持向量
主要是考虑支持向量小,决策边界大
2. 目标函数
目的:找到一条线,使得离该线最近的点能够最远
4. 软间隔优化
考虑一些异常的噪音,让分类更合理(引入松弛因子)
5. 核函数