一. SVR原理简述
在前面的文章中详细讨论过关于线性回归的公式推导,线性回归传送站。线性回归的基本模型为:
,从某方面说这和超平面的的表达式:
有很大的相似性。但SVR认为只要
与
不要偏离太大即算预测正确,
为拟合精度控制参数。如图所示:SVR 示意图
从图例中分析,支持向量机回归与线性回归相比,支持向量回归表示只要在虚线内部的值都可认为是预测正确,只要计算虚线外部的值的损失即可。考虑到SVM中线性不可分的情形,在引入松弛变量
最终得出支持向量机回归的最优化问题:
s.t
;
;
;
。
引入拉格朗日乘数,经过一系列求解与对偶,求的线性拟合函数为: