一元线性回归的公式推导

此乃开博首篇，先用简单的问题来当做开胃菜！

本篇一元回归主要参考周志华老师《机器学习》，主要工作是把周老师在书中省略的公式推导过程详细叙述清楚。

对于样本集 $D$ = { ($x_1$,$y_1$), ($x_2$,$y_2$), …, ($x_m$,$y_m$) } 线性回归模型就是要找到一个模型$f(x)=wx+b$ 使得 $\forall i\in [1,m]$ 都有 $f(x_i)$ 尽可能地接近于 $y_i$ 所以我们使每一个样本的预测值与真实值的差的平方和最小，即：

$$\begin{align*} (w^*, b^*)&=\arg_{w,b} \min\sum_{i=1}^m{(f(x_i)-y_i)}^2\\ &=\arg_{w,b} \min\sum_{i=1}^m{(wx_i+b-y_i)}^2\tag 1 \end{align*}$$
这可以看做是对多元函数 h(w,b)=∑mi=1(wxi+