普通的回归函数
模型
f
(
x
)
=
x
T
β
+
β
0
f(x)=x^T\beta+\beta_0
f(x)=xTβ+β0
损失函数为
H
(
β
,
β
0
)
=
∑
i
=
1
N
V
(
y
i
−
f
(
x
i
)
)
+
λ
2
∣
∣
β
∣
∣
2
H(\beta,\beta_0)=\sum_{i=1}^NV(y_i-f(x_i))+\frac{\lambda}{2}||\beta||^2
H(β,β0)=i=1∑NV(yi−f(xi))+2λ∣∣β∣∣2
如果函数
V
V
V是均方误差函数,误差函数图像为:
SVR
更改误差函数
V
V
V
V
ϵ
(
r
)
=
{
0
,
i
f
∣
r
∣
<
ϵ
∣
r
∣
−
ϵ
,
otherwise
V_{\epsilon}(r)= \begin{cases} 0, & \text {$if |r| < \epsilon$} \\ |r|-\epsilon, & \text{otherwise} \end{cases}
Vϵ(r)={0,∣r∣−ϵ,if∣r∣<ϵotherwise
误差函数图像为:
在原先回归线两侧又添加了两条分割线,如果落在两条分割线之内就不算误差。