SVM算法原理（1）

这个是机器学习中接触支持来向量的时候，首先接触的是知识。
主要思想是，我们对于样本二分类，我们希望找到这样一个平面（超平面）：样本的 geometric margin 最大的，其实就是在样本中离超平面的最近的点，然后使得这个最近的点的 geometric margin 最大。

首先我们需要明白一些概念。

function margin and geometric margin ,what is that ?
Function Margin :
我们以sigoid函数为例子，想象一下我们的sigmoid函数，是一个s形的，当我们的自变量远大于0的时候，我们的函数就越接近于1，在logistic regression 中就是，我们能够更加 肯定地说 这个是属于类1的！同理当自变量远小于0的时候我们就可以 非常肯定 这个是属于类0的。 这个就是 function margin 定义的来源啦
function margin 定义中，对y的定义稍微有些区别，y有两种状态，分别是1 和 -1
那么在这里就岔开一下话题，来讨论一下这样做的意义
我们知道在逻辑回归中，y的取值是0或者1，因为那样做的原因是因为，当我们把伯努利方程用 广义线性模型来表示的时候，就会得到用sigmoid函数来表达概率的函数，说白了就是因为 概率的取值是在0和1之间吗
那我们在function margin 把y的值设置在 1 和 -1 之间的原因，是因为我们为了计算最大值。我们在后面会看到，function margin是跟geometric margin 转