分类和逻辑回归（Classification and logistic regression）

看了一下斯坦福大学公开课：机器学习教程（吴恩达教授），记录了一些笔记，写出来以便以后有用到。笔记如有误，还望告知。
本系列其它笔记：
线性回归（Linear Regression）
分类和逻辑回归（Classification and logistic regression）
广义线性模型（Generalized Linear Models）
生成学习算法（Generative Learning algorithms）

分类和逻辑回归（Classification and logistic regression）

1 逻辑回归（Logistic regression）

$h_{\theta }(x)=g({\theta }^{T}x)=\frac{1}{1+e^{-{\theta }^{T}x}}$,$g(z)=\frac{1}{1+e^{-z}}$(logistic function / sigmoid function)

$p(y=1|x;\theta )=h_{\theta }(x)$

$p(y=0|x;\theta )=1-h_{\theta }(x)$

$p(y|x;\theta )=(h_{\theta }(x){)}^y(1-h_{\theta }(x){)}^{1-y}$
$$\begin{gathered} L(\theta )=p(\vec{y}|X;\theta ) \\ =\prod _{i=1}^{m}p(y^{(i)}|x^{(i)};\theta ) \\ =\prod _{i=1}^m(h_{\theta }(x^{(i)}){)}^{y^{(i)}}(1-h_{\theta }(x^{(i)}){)}^{1-y^{(i)}} \\ \Downarrow \end{gathered}$$