深度学习——提升模型泛化能力的方法

泛化能力指对同类型独立分布的新数据的预测结果是否符合我们的预期。我们常常用泛化能力来反应一个模型的好坏，将不同程度的泛化状态分为：欠拟合、拟合和过拟合。

提升模型的泛化能力可以从两个方面着手：数据集和网络。

一、数据集

        数据增强：增加数据集样本数量

        图像预处理：减少样本差异带来的影响

二、网络

        激活函数

        Dropout

        DropConnect