过拟合、欠拟合，梯度爆炸和消失，CNN #d2l#

过拟合、欠拟合

模型过于简单时会出现欠拟合，难以正确做出预测，但模型过于复杂时会出现过度拟合训练集，乃至太过死板而无法应对测试集。
对于欠拟合，可以提示模型复杂度，对于过拟合则采取正则惩罚、随机丢弃等方法缓解。

梯度爆炸与消失

当网络过深时，参数经过层层传递的不断累积会最终趋向于零或者变得很大，以至于计算机难以处理，也即梯度消失与爆炸

CNN

卷积层使用卷积核对原输入进行处理，有效保留了局部信息，除此之外还可以调整步长和给原输入做填充（补零）。
池化层用以降低卷积层对位置的过度敏感。