（吴恩达）机器学习笔记

突然发现自己对这个体系没有全面的认识，准备通过这个课程了解一些基础的概念，为未来的毕业论文做铺垫。


week1
1.1 监督学习和无监督学习
    监督学习：用带有正确标签的数据训练模型
        监督学习可以被进一步细分为以下两类：
            分类：预测结果是离散值
            回归：预测结果是连续值
    无监督学习：用没有标签的数据训练模型，它会找到数据中隐藏的结构（怎么达到预期的目标？）

1.2 线性回归模型
     Cost function（代价/成本函数），用来优化线性回归模型优化（它和loss function的区别是什么呢？）。

1.3 梯度下降
    使用梯度下降方法确定能使得cost function最小值的参数（怎么确定是全局最小值而不是局部最小值呢？线性回归中使用梯度下降，是一个凹函数，只有一个局部/全局最小值）。
    如果学习率的取值太小，将会增大收敛的时间；如果太大，最后可能不会收敛。当接近局部最小值时，学习率的取值可以不用变化，因为偏导的值在逐渐变小。
    批量（batch）梯度下降，在每一次求偏导时使用的都是整个训练集的例子，所以被称为批量（batch）。

week2
2.1 多元线性回归
    在单变量线性回归的基础上做了扩展，输入的特征值可以有多个；
    使用特征缩放的方法，将多个维度的特征值缩放到相似的范围内，可以使得梯度下降收敛的速度更快（属于对数据进行预处理的范围）。
    如果学习率足够小，cost function将在梯度下降的每一次迭代中下降；但学习率过小，会使得收敛时间过长。
    正规方程，使用解析的方法求解能使得cost function满足优化目标的参数（仅限于线性回归，目测对以后的用处不大，直接跳过了）。

--------------2022/03/07更新------------------------
后面的内容看了一部分，对现阶段的研究进展帮助不大，写毕业论文应该是足够了。

To be a sailor of the world bound for all ports.