公式推到网址:机器学习-白板推导系列(六)-支持向量机SVM(Support Vector Machine)_哔哩哔哩_bilibili
一、找一个最好的线
目的是分类,所以找一个最好的线能够将其分类,其最好的线是‘最中间那条’、对误差最不敏感那条。
方法:找到一个margin(在所有点中,找到点离线最短的那个距离),然后再找其中最大那个的间隔,满足以上的线就是最好的线。
用数学公式表示如下:
最后得出右下角公式的结论,接下来为求解公式。
二、公式转化
1、将公式转化为用拉格朗日公式等价表示(原公式满足转化条件),再转化为对偶问题公式(原公式满足转化条件)进行求导求解参数,公式推导如下。
其中可以求解w: