关于Neural Network(MLPs)的训练前准备:数据预处理和网络初始化
训练一个的Neural Network(特指由FC层和non-linearity构成的MLP式网络),为了达到又快又好的convergence,训练前的准备非常重要。这里主要谈个主要的预训练措施:数据预处理 and 网络初始化。一. 数据预处理:本文还是以在CIFAR-10上做10分类任务为背景展开(训练集50000张32 * 32 * 3 = 3072dim的图片,X∈[N , D] =...
原创
2018-08-31 16:51:38 ·
2041 阅读 ·
0 评论