SVM和KNN的对比:
Knn:计算距离哪个分类点尽
Svm:找到决策边界,划分数据
SVM分类原理:
支持向量积:
1支持向量
2寻找支持向量
3选出最好的决策边界
要点:
1支持向量的值要小
2决策边界要大
3先找支持向量,再找决策边界
实现步骤:
1距离计算:
2目标函数:
目的:找到一条线,使得离该线最近的点能够最远
放缩变换和优化目标:
3部分数学原理:
拉格朗日乘子法:
简化最终目标函数
例子:
4软间隔优化:
5核函数(重要)
作用:
升维效果:
实例展示: