****目标:****找到一个超平面 wx + b = 0 (w,b为参数)
****思路:****间隔最大(maximum margin)
线性支持向量机SVM:
3. 函数间隔 VS 几何间隔
确信度(confidence):|w x + b|
****正确性(correctness):****w x + b与y符号相同时,表示预测正确,相反w x + b与y符号相反时,表示预测错误,则正确的可以写成 y ( w x + b )
因此结合确信度和正确性 可以得到:y ( w x + b )
(1)函数间隔
给定训练数据集T,平面(w,b)
目前可以得到这样的结果。
但是,如果将w变为2w,b变成2b,超平面不会发生变化,但是函数间隔变化了
因此:我们选择使用||w|| ( w的二范数)
从而引出几何间隔
(2)几何间隔
4. 最大间隔化
****基本思想:****求解能正确划分训练数据集,且geometric margin 最大的