吴恩达机器学习笔记【课时四】

课时4-1 多功能

现在增加一些特征，以下是一些描述符号：

假设应该改成如下图所示，并且表示可以表示成矩阵相乘的形式：（下图的x为一个样本）

课时4-2 多元梯度下降法

如何给多元回归的梯度下降法设置参数？

如此求导

课时4-3 多元梯度下降法演练——特征放缩

关于特征的取值范围：
椭圆形等高线的代价函数收敛时间长，需要把参数都在同一个范围内：

所以需要对特征的值进行均值归一化处理：

课时4-4 多元梯度下降法——学习率

以下为代价函数随着迭代次数增加而下降的曲线：

如何选择学习率：

课时4-5 特征和多项式回归

对于某一特定问题选择自己创造的特征：

多项式回归如果用梯度下降就要做个小小的修改，如下图，整体代换，这时特征放缩很重要：

课时4-6 正规方程（区别于迭代法的直接解法）

是求参数的一步到位的方法：

梯度下降和正规方程的优缺点对比：

课时4-7 正规方程在矩阵不可逆情况下的解决方法

课时4-8 导师的编程小技巧

雨女无瓜