机器学习技法系列一

线性SVM

最大间隔：所有训练样例距离分界超平面的距离取最小值，最大化最小值即可获得最胖分界面

支持向量条件

• max margin ：边界最大化
• yn（wx+b）>0 同号同侧，表明分类正确（硬间隔）
• margin边界取全部样本距离最小值

转化最优，另min （y（wx+b））= 1，，边界最大化转化为max（1/w）,同时可转化为min（w*w/2）

• 限制转为无限制

存在1-y（wx+b）>0，max最大化直接爆炸为无限大，从而保证全部1-y（wx+b）小于0，当1-y（wx+b）全部小于0时，max最大化使得全部@取值为0，问题退化为原先最大化w*w/2

拉格朗日对偶

svm问题转化:极限点偏导数为0