吴恩达机器学习系列二(分类问题 / 正则化)

分类问题（Logistic回归模型）

Logistic函数 / Sigmoid函数

$h_{\theta }(x)=\frac{1}{1+e^{-{\theta }^{T}x}}$

$h_{\theta }(x)$：输入某个x，当y为1时的概率估计

举例：

如果

$h_{\theta }(x)=0.7$

那么肿瘤有70%的可能性为恶性肿瘤

$h_{\theta }(x)=P(y=1|x;\theta )$ 在给定x的条件下y=1的概率，这个概率的参数是θ

决策界限

Logistic 回归

$h_{\theta }(x)=g({\theta }^{T}x)$

$g(z)=\frac{1}{1+e^{-z}}$

当${\theta }^{T}x<0$（$z<0$）时，$h_{\theta }(x)$<0.5，此时预测y=0

决策边界：$h_{\theta }(x)=0.5$时对应的直线

首先用训练集数据拟合$\theta$，之后就可以确定决策边界

代价函数

Logistic回归的代价函数：

$J(\theta )=\frac{1}{m}{\sum }_{i=1}^{m}Cost(h_{\theta }(x^{(i)}),y^{(i)})$

C o s t ( h θ ( x ) , y