关于深度学习的一些基础问答

1、pooling层的作用？

1）减少参数

2）鲁棒性、抗扰动性增强（输入像素在邻域内发生微小位移时，输出不变）

2、下采样：对信号的抽取，连续->离散

上采样：也叫增取样，离散->连续

3、数据增强的方法

1）有监督数据增强（采用预设的数据变换规则，在已有数据的基础上进行数据的扩增）

单样本数据增强：翻转，旋转，裁剪，变形，缩放（几何变换）

噪声、模糊、颜色变换、擦除、填充（颜色变换）

多样本数据增强：SamplePairing：处理后可使训练集的规模从N扩增到N×N

2) 无监督数据增强

----通过模型学习数据的分布，随机生成与训练数据集分布一致的图片，代表方法GAN

---- 通过模型，学习出适合当前任务的数据增强方法，代表方法AutoAugment

4、过拟合（overfitting）

概念：随着训练过程的进行，模型对于训练集的误差越来越小，却不能很好地拟合验证集。（泛化能力差）

如何判断？训练集准确度高，验证集准确度低。

原因：---神经网络学习能力过强

---训练时间太久

---激活函数不合适

---训练集太少

解决方法：降低模型复杂度、及时停止、正则化、增强数据集、dropout（随机删除部分隐层单元）

欠拟合：