cs231n：SVM线性分类器

线性分类器：为了简单，下面只讨论二分类问题(cs231n)学习笔记

1.1 SVM： 从图像角度理解SVM

假设我们把一张图像的rgb三通道展开为一个vector，用x表示。
这样，我们的数据从Image1 ，2 ... N 变到 x1 ，2，...N。xi是向量
我们就可以用如下函数进行线性分类：
f（x，W，b）= Wx + b;  //liner classifier  

1.2 如何判断我的模型：W、b的好坏呢？

 lose function : 基本原则，分类界限好，希望损失小。
                分类界限不好，甚至错误，希望损失大。
    我们用Li表示第i个样本的数据损失：
    Li = LossFunction（f（xi，W，b），yi）  注：在svm中f（xi，W，b）是一个score 

    这个值不是越小越好，因为可能对于你当前的数据集，这个值非常小。
    但是对于别的数据集肯能非常不好。原因是出现了过拟合。把噪音也进行了拟合。

    因此加上一个正则项R（W），来调整 .

    综上：Li = LossFunction（f（xi，W，b），yi&