吴恩达机器学习(四) （支持向量机SVM）

首先回顾一下logistics回归中的sigmoid函数
当θ^Tx远大于0时h_θ(x)无限接近于1，那么我们给他一种对应情况，y=1。反之亦然。

回忆起cost函数（坐标系中的红框），坐标系纵坐标就是cost代价

我们对比一下上一篇学习的理解cost函数的图像，上一篇中的横坐标是h_θ(x)，而这里的横坐标是Z=θ^Tx。当h_θ(x)等于零代价函数也为零可以表达y=1的时候，所需要的Z是无穷大的(需要e^-θ转置x为零则θ^Tx无穷大)。

现在我们去做两条线，一条是水平贴合在z轴上的，一条是类似拟合这个logistics函数的直射线，我们称他为cost1(z)，然后y=0的时候同样有它，我们称之为cost0(z)。
我们称之为支持向量机。
他在优化问题上比logistics有着一定的优势。

对于我们熟悉的logistics回归正则化中的代价函数公式，我们如果要求设么θ是最小值的时候，可以不看m，因为m不决定θ取什么值时代价最小。这样一来我们的研究对象就转移到了λ上了。如果λ越大，说明更加重视正则项的优化。

对于新概念SVM，我们知道当提出一个新概念时候我们不能将和老概念混淆了。所以这里使用新参数C来权衡两个项之间的权重（C值一般不需要设置很大的数字，这个后面解释）。