自适应学习率调整:AdaDelta - Physcal
超参数超参数(Hyper-Parameter)是困扰神经网络训练的问题之一,因为这些参数不可通过常规方法学习获得。神经网络经典五大超参数:学习率(Leraning Rate)、权值初始化(Weight Initialization)、网络层数(Layers)单层神经元数(Units)、正则惩罚项(Regularizer|Normalization)这五大超参数使得神经网络更像是
转载
2015-12-04 16:47:17 ·
9616 阅读 ·
0 评论