Machine Learning---liner regression of one value

单变量线性回归

• liner regression function:
  定义此假设函数为：$h(x)={\Theta }_0+{\Theta }_1\cdot x$简单的是用线性函数来拟合输入的数据集。其中${\Theta }_0和{\Theta }_1$是需要求解出的两个参数。

• cost function:
  定义此代价函数为：$J({\Theta }_0,{\Theta }_1)=\frac{1}{2m}{\sum }_{i=1}^m(h(x^i)-y^i{)}^2$其中$x^i和y^i$是数据集的输入输出，而$h(x^i)$表示线性回归得到的估算值，这个代价函数有点类似于概率论中的平方差。。。

• gradient descent:
  定义此梯度下降算法为：${\Theta }_j:={\Theta }_j-\alpha \cdot \frac{\partial }{\partial {\Theta }_j}J({\Theta }_o,{\Theta }_1)$ (for j=0 and j=1) %%% :=符号表示将式子右边赋值给左边。$\alpha$表示学习速率（learning rate ）。
  梯度下降同时更新${\Theta }_0和{\Theta }_1$，最终找到偏微分项为零，得到${\Theta }_0和{\Theta }_1$。更新时遵循“同时赋值，同时更新”

将代价函数和假设函数带回到梯度下降算法中，就能得到具体的${\Theta }_0和{\Theta }_1$。