吴恩达 coursera ML 第四课总结+作业答案

前言

学以致用，以学促用，通过笔记总结，巩固学习成果，复习新学的概念。
目录

文章

正文

本节学习内容主要为多元线性回归

模型引入

引入问题，上次那个一元线性回归模型还是过于简略，并不符合实际情况，毕竟实际上我们买房的时候会考虑，楼层啊，地段等等之类的因素，而不是只考虑面积这一个因素。
多元回归的模型，为了方便之后的计算，对特征新增一项$$x_0=1$$

多元梯度下降

为了方便公式的推导，我们将${\theta }_0...{\theta }_n$简化为$\theta$.
多元梯度回归相比于之前的变化，以及具体实现的细节。

技巧1 特征压缩

因为,每个特征的原始尺度不同，因此，需要对其进行压缩，以方便后面的学习算法对其进行学习。
特征压缩第一步，让每个特征的范围为[-1,1]

特征压缩第二步，让每个特征的均值为0.

梯度下降2：学习率

梯度下降算法的细节2，学习率对梯度算法的影响。
如何确认梯度下降算法是否正常工作？通过画出每一步误差函数的变化确认，算法工作正常。
学习率的大小对梯度算法运行的影响。
这里总结了学习率的影响，以及如何选择学习率。

多项式回归

只有一个原始数据，也可以通过对它取各次幂变成多元回归。

梯度下降只是一种解决方法，还可以用正规方程获得解析解。
迭代求解方法。
使用正规方程求解的例子

正规方程和梯度下降求解的比较。

补充内容

正规方程求解的问题，如果矩阵不可逆？
矩阵不可逆的原因。

作业答案

多元和单元的写在一块儿的，参见第二周：线性回归