突然发现自己对这个体系没有全面的认识,准备通过这个课程了解一些基础的概念,为未来的毕业论文做铺垫。
week1
1.1 监督学习和无监督学习
监督学习:用带有正确标签的数据训练模型
监督学习可以被进一步细分为以下两类:
分类:预测结果是离散值
回归:预测结果是连续值
无监督学习:用没有标签的数据训练模型,它会找到数据中隐藏的结构(怎么达到预期的目标?)
1.2 线性回归模型
Cost function(代价/成本函数),用来优化线性回归模型优化(它和loss function的区别是什么呢?)。
1.3 梯度下降
使用梯度下降方法确定能使得cost function最小值的参数(怎么确定是全局最小值而不是局部最小值呢?线性回归中使用梯度下降,是一个凹函数,只有一个局部/全局最小值)。
如果学习率的取值太小,将会增大收敛的时间;如果太大,最后可能不会收敛。当接近局部最小值时,学习率的取值可以不用变化,因为偏导的值在逐渐变小。
批量(batch)梯度下降,在每一次求偏导时使用的都是整个训练集的例子,所以被称为批量(batch)。
week2
2.1 多元线性回归
在单变量线性回归的基础上做了扩展,输入的特征值可以有多个;
使用特征缩放的方法,将多个维度的特征值缩放到相似的范围内,可以使得梯度下降收敛的速度更快(属于对数据进行预处理的范围)。
如果学习率足够小,cost function将在梯度下降的每一次迭代中下降;但学习率过小,会使得收敛时间过长。
正规方程,使用解析的方法求解能使得cost function满足优化目标的参数(仅限于线性回归,目测对以后的用处不大,直接跳过了)。
--------------2022/03/07更新------------------------
后面的内容看了一部分,对现阶段的研究进展帮助不大,写毕业论文应该是足够了。