关闭

SVM入门(五)线性分类器的求解——问题的描述Part2

171人阅读 评论(0) 收藏 举报
分类:

从最一般的定义上说,一个求最小值的问题就是一个优化问题(也叫寻优问题,更文绉绉的叫法是规划——Programming),它同样由两部分组成,目标函数和约束条件,可以用下面的式子表示:

clip_image002(式1)

约束条件用函数c来表示,就是constrain的意思啦。你可以看出一共有p+q个约束条件,其中p个是不等式约束,q个等式约束

关于这个式子可以这样来理解:式中的x是自变量,但不限定它的维数必须为1(视乎你解决的问题空间维数,对我们的文本分类来说,那可是成千上万啊)。要求f(x)在哪一点上取得最小值(反倒不太关心这个最小值到底是多少,关键是哪一点),但不是在整个空间里找,而是在约束条件所划定的一个有限的空间里找,这个有限的空间就是优化理论里所说的可行域。注意可行域中的每一个点都要求满足所有p+q个条件,而不是满足其中一条或几条就可以(切记,要满足每个约束),同时可行域边界上的点有一个额外好的特性,它们可以使不等式约束取得等号!而边界内的点不行。

关于可行域还有个概念不得不提,那就是凸集,凸集是指有这么一个点的集合,其中任取两个点连一条直线,这条线上的点仍然在这个集合内部,因此说“凸”是很形象的(一个反例是,二维平面上,一个月牙形的区域就不是凸集,你随便就可以找到两个点违反了刚才的规定)。

回头再来看我们线性分类器问题的描述,可以看出更多的东西。

clip_image002[5](式2)

在这个问题中,自变量就是w,而目标函数是w的二次函数,所有的约束条件都是w的线性函数(哎,千万不要把xi当成变量,它代表样本,是已知的),这种规划问题有个很有名气的称呼——二次规划(Quadratic Programming,QP),而且可以更进一步的说,由于它的可行域是一个凸集,因此它是一个凸二次规划

一下子提了这么多术语,实在不是为了让大家以后能向别人炫耀学识的渊博,这其实是我们继续下去的一个重要前提,因为在动手求一个问题的解之前(好吧,我承认,是动计算机求……),我们必须先问自己:这个问题是不是有解?如果有解,是否能找到?

对于一般意义上的规划问题,两个问题的答案都是不一定,但凸二次规划让人喜欢的地方就在于,它有解(教科书里面为了严谨,常常加限定成分,说它有全局最优解,由于我们想找的本来就是全局最优的解,所以不加也罢),而且可以找到!(当然,依据你使用的算法不同,找到这个解的速度,行话叫收敛速度,会有所不同)

对比(式2)和(式1)还可以发现,我们的线性分类器问题只有不等式约束,因此形式上看似乎比一般意义上的规划问题要简单,但解起来却并非如此。

因为我们实际上并不知道该怎么解一个带约束的优化问题。如果你仔细回忆一下高等数学的知识,会记得我们可以轻松的解一个不带任何约束的优化问题(实际上就是当年背得烂熟的函数求极值嘛,求导再找0点呗,谁不会啊?笑),我们甚至还会解一个只带等式约束的优化问题,也是背得烂熟的,求条件极值,记得么,通过添加拉格朗日乘子,构造拉格朗日函数,来把这个问题转化为无约束的优化问题云云(如果你一时没想通,我提醒一下,构造出的拉格朗日函数就是转化之后的问题形式,它显然没有带任何条件)。

读者问:如果只带等式约束的问题可以转化为无约束的问题而得以求解,那么可不可以把带不等式约束的问题向只带等式约束的问题转化一下而得以求解呢?

聪明,可以,实际上我们也正是这么做的。下一节就来说说如何做这个转化,一旦转化完成,求解对任何学过高等数学的人来说,都是小菜一碟啦。

0
0
查看评论

SVM入门(五)线性分类器的求解——问题的描述Part2

从最一般的定义上说,一个求最小值的问题就是一个优化问题(也叫寻优问题,更文绉绉的叫法是规划——Programming),它同样由两部分组成,目标函数和约束条件,可以用下面的式子表示: (式1) 约束条件用函数c来表示,就是constrain的意思啦。你可以看出一共有p+q个约束条件,其中p个是不等式...
  • discxuwei
  • discxuwei
  • 2010-02-08 15:27
  • 375

SVM入门(五)线性分类器的求解——问题的描述Part2

SVM入门(五)线性分类器的求解——问题的描述Part2 原地址:http://www.blogjava.net/zhenandaci/archive/2009/02/14/254630.html     从最一般的定义上说,一个求最小值的问题就是一个优化问题(也叫寻优问...
  • duhaomin
  • duhaomin
  • 2013-08-19 11:48
  • 875

SVM入门(四、五)线性分类器的求解——问题的描述

转载自:http://www.blogjava.net/zhenandaci/category/31868.html   上节说到我们有了一个线性分类函数,也有了判断解优劣的标准——即有了优化的目标,这个目标就是最大化几何间隔,但是看过一些关于SVM的论文的人一定记得什么优化的目标是要...
  • lsp1991
  • lsp1991
  • 2014-04-01 20:19
  • 552

[转载]SVM入门(五)线性分类器的求解——问题的描述Part2

从最一般的定义上说,一个求最小值的问题就是一个优化问题(也叫寻优问题,更文绉绉的叫法是规划——Programming),它同样由两部分组成,目标函数和约束条件,可以用下面的式子表示: (式1)   约束条件用函数c来表示,就是constrain的意思啦。你可以看出一共有p+q个约束条件,其中p个是不...
  • ayw_hehe
  • ayw_hehe
  • 2010-07-12 10:08
  • 476

SVM入门 线性分类器的求解——问题的描述(3)

上节说到我们有了一个线性分类函数,也有了判断解优劣的标准——即有了优化的目标,这个目标就是最大化几何间隔,但是看过一些关于SVM的论文的人一定记得什么优化的目标是要最小化||w||这样的说法,这是怎么回事呢?回头再看看我们对间隔和几何间隔的定义: 间隔:δ=y(wx+b)=|g(x)| ...
  • yzzzfree
  • yzzzfree
  • 2011-04-18 14:20
  • 209

SVM入门(四)线性分类器的求解——问题的描述Part1

SVM入门(四)线性分类器的求解——问题的描述Part1 原地址 : http://www.blogjava.net/zhenandaci/archive/2009/02/13/254578.html  上节说到我们有了一个线性分类函数,也有了判断解优劣的标准——即有了优化的目标,这个...
  • duhaomin
  • duhaomin
  • 2013-08-19 11:17
  • 753

【机器学习】SVM学习(三):线性分类器的求解

转载:http://blog.csdn.net/qll125596718/article/details/6904289 1.问题的描述          上节说到我们有了一个线性分类函数,也有了判断解优劣的标准——即有了优化的目标,...
  • SMF0504
  • SMF0504
  • 2016-10-10 19:56
  • 1130

SVM(二)线性分类器的求解——问题的描述

上节说到我们有了一个线性分类函数,也有了判断解优劣的标准——即有了优化的目标,这个目标就是最大化几何间隔,但是看过一些关于SVM的论文的人一定记得什么优化的目标是要最小化||w||这样的说法,这是怎么回事呢?回头再看看我们对间隔和几何间隔的定义:   间隔:δ=y(wx+b)=|g(x)|   ...
  • OPPOA113
  • OPPOA113
  • 2015-04-28 21:53
  • 507

SVM学习(二):线性分类器

1.线性分类器概念           线性分类器(一定意义上,也可以叫做感知机) 是最简单也很有效的分类器形式.在一个线性分类器中,可以看到SVM形成的思路,并接触很多SVM的核心概念。用一个二维空间里仅有两类样本的分类问题来举个小...
  • qq_26898461
  • qq_26898461
  • 2016-01-08 11:45
  • 1702

SVM入门(四五六)线性分类器的求解

SVM入门(四)线性分类器的求解——问题的描述Part1 上节说到我们有了一个线性分类函数,也有了判断解优劣的标准——即有了优化的目标,这个目标就是最大化几何间隔,但是看过一些关于SVM的论文的人一定记得什么优化的目标是要最小化||w||这样的说法,这是怎么回事呢?回头再看看我们对间隔和几...
  • meijia_tts
  • meijia_tts
  • 2012-01-09 16:11
  • 624
    个人资料
    • 访问:61957次
    • 积分:2023
    • 等级:
    • 排名:千里之外
    • 原创:139篇
    • 转载:80篇
    • 译文:0篇
    • 评论:11条
    最新评论