No.1.4

1.1 线性回归

 1）单变量线性回归
 2）最二乘和梯度下降
 3）多变量线性回归
 *4）多变量多项式回归

数据案例

线性回归

求解目标：找到θ1，θ2    
个人理解:利用均方误差代替损失函数，用平方损失代替风险R，又因为误差有正有负，所以要用平方消去符号

在求解θ1，θ2 过程中，采用梯度下降方法，随机梯度下降
梯度下降有三种方法，随机梯度下降，小批量梯度下降，
*下图描绘的是损失函数，不是原函数
碗装函数，为凸函数 有全局最低点

梯度下降原理 理论，现实里：无法保证找到的是最好的点（全局最小值），一般为局部最小值

理解梯度  偏微分理解   向下最快的方向叫梯度