Andrew ng机器学习课程第一周

Hypothesis

$h_\theta(x)=\theta_0+\theta_1x$

Cost Function

它描述的是在任一θ下，h(x)和相应的y的接近程度，我们的目的是让它尽可能地小。

$J(\theta)=\frac{1}{2m}\sum_i^m{(h_\theta(x^{(i)}) - y^{(i)})^2}$

To break it apart, it is $\frac{1}{2}\hat{x}$ where $\hat{x}$ is the mean of the squares of $h_\theta(x^{(i)}) - y^{(i)}$, or the difference between the predicted value and the actual value.

用等高线表示如下图所示

Gradient Descent

$\alpha$>0是学习率,，更新时两个变量同时更新。

批量梯度下降

随机梯度下降