读西瓜书:6.1/6.2/6.3/6.4章 6.1 间隔与支持向量 为什么要引入间隔? 如果训练样本是线性可分的,那么线性分类器就是在样本空间中寻找一个超平面,将不同类别的样本分开 但能将训练样本分开的超平面可能有很多,哪一个更好? 上图中判别函数的训练误差都为0,但机器学习中有个准则:不是训练误差最小而是泛化误差最小 直觉上应该选正中间的粗线,对未见示例的泛化能力最强 对比逻辑回归,当 w T x w^Tx wTx 等于0 (y=0.5) 左右时 ,此时分类的自信度是比较低的,而我们希望有强自信度,那么如何在没有概率的情况定义自信度呢?—— 间隔 间隔: