1 前言
本次笔记涉及苹果书3.7~4章节,教学资料来源于datawhale AI夏令营。
task1笔记:Datawhale X 李宏毅苹果书 AI夏令营 task1-CSDN博客
task2笔记:Datawhale X 李宏毅苹果书 AI夏令营 task2-CSDN博客
相关课程链接也详见 task1 笔记↑
2 归一化:把山铲平
归一化:是数据预处理的一种常用方法,旨在将数据按比例缩放,使之落入一个小的特定区间,如[0, 1]或[-1, 1]。
批量归一化:一种归一化方案,方法是减去平均值再除以标准差,每次对一批数据做处理。
归一化的好处:把崎岖的误差表面变得友好又不缺失特征,让训练更顺利。
移动平均值:解决训练时分批但是测试时没有分批的问题。
3 卷积神经网络
全链接层:顾名思义,每一个神经元都与前一层的每一个神经元相连接。加上感受野和参数共享之后就是卷积层了。
感受野:分而治之,每次只关心一个局部。
参数共享:需要参数是具有共性的,就不需要重复建设了。
卷积层:分而治之+抓主要矛盾。每一层只关心局部的数据,把每一层的特征拿出来再划分局部给下一层去汇总学习。
汇聚层:选代表制度。通过最大汇聚或者平均汇聚等方法进行下采样快速压缩图像(所以不需要学习)。
4 结语
结合实践任务应该可以理解得更深入,可惜时间有些紧张了。而我性格上比较喜欢广度优先,所以把书往后面看了好多。