支持向量机SVM
莫雪雪的blog
学习使人快乐
展开
-
支持向量机SVM详解——多类别样本分类
需要分成几类就需要几个分类器,训练几个SVM,哪一个得到的概率最高就属于哪一个类别。例如上图,我们只需要训练A和非A,B和非B,C和非C三个分类器。将A,B,C两两组合进行二分类,最后通过记票的方式看看数据被分为哪个类别的次数最多,就认为数据属于该类别,复杂度高,一般情况下使用OVR(把数据分为是这个类别和不是这个类别进行分类)...原创 2020-04-02 00:18:20 · 1792 阅读 · 0 评论 -
支持向量机SVM详解——SMO算法
SVM如何求解w和b使W(α)得到最大值的α,通过α求解w,b。由于约束条件:如果只更改一个α,则没有办法保证约束条件成立,因此更新两个约束条件αiαj以保证约束条件成立,并且获得一个最优解。有约束条件:α在0到C之间,H和L是α的上下界。将原优化函数的α1用α2替代。α上下界H和L的求解方法α1α2对应的y1和y2是同一个类别的时候,则y1==y2为情况一;α1α2对应的y1和y2是...原创 2020-04-02 00:03:56 · 298 阅读 · 0 评论 -
支持向量机SVM详解——SVM核函数
在低维空间中没有办法分割的数据转化成高维空间,yi,yj是两个数据点的类别,如果属于同一类别yiyj结果为一,那么整个式子的值应该是减小的,xiTxj相当于求相似性。将核函数引入,直接利用K(xi,xj)衡量两个数据的相似性,余弦相似性核一般用于文本比较。卡方核使用卡方函数进行计算,主要使用在计算机视觉中对两个概率的特征向量进行相似性比较。...原创 2020-03-31 18:17:27 · 504 阅读 · 0 评论 -
支持向量机SVM详解——带有松弛变量的数学模型
上一节的例子是基于两个类别的数据是完全可分的情况下,没有异常点的数学模型,如果出现了异常点:在某一个类别包含另一个类别的数据,如果不放松要求的话,根本无法分割两类样本,这个时候我们必须放松限制。ξ——松弛变量,C是对松弛变量的惩罚,C的值越大,松弛变量就越小,偏离原始的数学模型的位置越小;C越小,惩罚就越小。yi——是真实值,wTxi+b是预测值,我们希望二者乘积大于等于1,因为在这里有了一个松...原创 2020-03-31 00:41:34 · 1720 阅读 · 0 评论 -
支持向量机SVM详解----最优化问题
最优化问题目录拉格朗日乘子法KKT算法对偶问题拉格朗日乘子法KKT算法对偶问题原创 2020-03-30 14:15:53 · 2070 阅读 · 0 评论 -
支持向量机SVM详解——SVM数学模型
目录SVM的数学模型SVM的数学模型w的方向垂直于直线y(i)是样本的真实结果 (wx+b)是我们的预测结果,即我们的目的是什么。和不等式约束进行转换即可得到g(w)=-y(wx+b)+1<=0,将拉格朗日函数转化成了一个无约束的优化问题。...原创 2020-03-30 22:04:16 · 1857 阅读 · 0 评论 -
SVM实现人脸识别(超详细易懂)(一)
机器学习的本质:从大量数据里提取出特征与相应的类别产生联系,该类别称之为标签,也就是说使得特征与对应的标签产生对应关系,从而具有识别的能力。分类和聚类分类是已知物体的类别的标签,聚类则是数据处于无标签状态,我们把具有相似特征的物体归为同一类。分类是有监督的学习,有标签(预设标准答案);聚类是无监督的学习,无标签。SVM(Support Vector Machine)支持向量机:是机器学习里非...原创 2020-03-27 23:49:49 · 8320 阅读 · 1 评论