支持向量回归（SVR）是一种比线性回归更宽容的模型，通过创建间隔带减少误差影响。模型利用松弛变量在数据点与线性函数间创建容错空间，允许部分数据点落在间隔带内而不计损失。SVR通过最小化间隔带宽度和总损失来优化模型，其核心包括主问题、对偶问题、SMO算法的求解和核技巧的应用。
严格的线性回归
之前我们讲过线性回归：在向量空间里用线性函数去拟合样本。
该模型以所有样本实际位置到该线性函数的综合距离为损失，通过最小化损失来求取线性函数的参数。参见下图：
对于线性回归而言，一个样本只要不是正好落在最终作为模型的线性函数上，就要被计算损失。
如此严格，真的有利于得出可扩展性良好的模型吗？
宽容的支持向量回归（SVR）
今天我们来介绍一种“宽容的”回归模型：支持向量回归（Support Vector Regression，SVR）。
模型函数
支持向量回归模型的模型函数也是一个线性函数： y = wx + b。
看起来和线性回归的模型函数一样哈！
但 SVR 和线性回归，却是两个不同的回归模型。
不同在哪儿呢？不同在学习过程。
说得更详细点，就是：计算损失的
订阅专栏 解锁全文
扫一扫
5万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
