决策边界
决策边界的定义
决策边界是由分类模型的参数决定的,对不同类型数据进行划分的分类边界,在二维图上表示如下:
决策边界是由假设函数的参数决定的,例如假设函数
h
θ
=
g
(
θ
0
+
θ
1
x
1
+
θ
2
x
2
)
h_{\theta} = g(\theta_0 + \theta_1x_1 + \theta_2x_2)
hθ=g(θ0+θ1x1+θ2x2)
其中g函数是sigmoid函数,因此,
θ
T
x
\theta^Tx
θTx大于等于0时,对应的
h
θ
(
x
)
h_\theta(x)
hθ(x)取值大于0.5,预测值对应1。求解此时的
θ
T
x
\theta^Tx
θTx,可以得到直线
x
1
+
x
2
>
=
3
x_1 + x_2 >= 3
x1+x2>=3
该直线即为当前假设函数的决策边界。
注意:决策边界只与假设函数的参数有关,与训练集数据无关
复杂决策边界
除了上文提到的直线型决策边界,根据假设函数的不同,决策边界也可以有很多种类型,如下图所示:
假设函数中的
θ
T
x
\theta^Tx
θTx为二次多项函数
其他的高阶函数产生的不同的决策边界。