机器学习-监督学习之决策向量机算法
首先我们看下面的例子,我们有一些蓝色的点和一些红色的点,现在想用一条线来分割他们,我们的目标是让点到分割线的距离尽可能远,这个距离称为Margin。
对于复杂问题如下图,我们用两种指标来衡量:1.margin的宽度 2.错分类的数量
Error = Classification error + margin error
Perceptron 算法
之前学的perceptron算法强调计算error function,然后用gradient descent方法找到最佳的w和b的值。
分类算法
对于分类算法的error计算类似perceptron,根据两方的边际线计算出距离的误差。