svm应用与思考

一开始我就直接冲上来使用svm，使用的 台湾大学林智仁(Lin Chih-Jen)教授等开发设计的一个简单、易于使用和快速有效的SVM模式识别与回归的软件包，根本没有充分理解它到底是个什么样！

1.svm作用

要说svm作用我知道，就是简单分类，目的也是分类，它在我的理解里就是为分类而生。

但是在使用过后对于结果的不理想使我想调整程序也无法动手，因为我根本就不理解啊！

2. svm——最优分类面的定义： 

对于SVM，存在一个分类面，两个点集到此平面的最小距离最大，两个点集中的边缘点到此平面的距离最大。

对于这种似是而非的解释呢，最简单就是从直观上去理解。

下图左边的，肯定不是最优分类面；而右边的能让人感觉到其距离更大，使用的支撑点更多，至少使用了三个点，但是是不是最好的，这个说不准，但是绝对比左面的那个好多了。

这个分类面是不是需要更多的点去支撑其为最优呢？

如下图，左图是由三个点，来确定的一个最优分类面，不同类别的两个点确定一个中心点，而同类的两个点可以确定方向向量。这个最优分类面，需要三个点。

但对于右图，直接获取不同类别的两个点的垂面，即是最优分类面。这个分类面，则需要两个点。

以上，情况的分析，使得求解最优分类面的思路，模式比较复杂。

若采用穷举法，至少需要以下过程。

先取不同类别的两个点，求解中心连线的垂面。如以上右图模式

然后判断其他点到此垂面的距离，若有更小的距离（或负值，即分类错误），则选取以上左图模式。

穷举所有点。采用最直接的方式处理，则其运算复杂度为 m*n*n， 若n > m.

这个还没有用到高维映射哪，如果再加上高维映射的处理，算法恐怕就更复杂了。所以，穷举法是不太现实的。