支持向量机SVM,决策边界与参数θ的关系探究
下图为吴恩达机器学习课程中的截图
抛出疑问:
为什么决策边界是绿色,而参数是那条正交的蓝色?并且这个蓝色的方向是如何确定的,反向可不可以?
猜想:
决策边界是样本的边界的极限的情况,在边界的基础上偏差一点点都会导致不一样的结果,所以决策边界其实可以看成是极限的样本的一个集合。
而为什么它的参数是垂直的并且方向是如何确定的呢?
正因为决策边界理解为边界极限的样本,那么意思就是偏差一点点就会导致不一样的结果,也就是sigmoid函数里的分界线0,也就是在决策界限上θ^T x=0,因而>0或者<0都会导致不一样的结果也就是1或者0。因此,θ^T x=0转变为了|θ|*|x|*cosθ,所以决策边界和参数是正交的。而箭头的方向取决于你对于正类和负类的选择。同向的即为正类。