2017年08月_rookie_chenzhi

10月 08月 07月 04月 02月 01月

转载正则化方法：L1和L2 regularization、数据集扩增、dropout

转载请注明出处：http://blog.csdn.net/u012162613/article/details/44261657本文是《Neural networks and deep learning》概览中第三章的一部分，讲机器学习/深度学习算法中常用的正则化方法。（本文会不断补充）正则化方法：防止过拟合，提高泛化能力在训练数据不够多时，或者overtrainin

2017-08-17 10:10:27 459

原创 LSTM超参数调试注意事项

LSTM超参数调试以下是手动优化RNN超参数时需要注意的一些事：小心出现过拟合，这通常是因为神经网络在“死记”定型数据。过拟合意味着定型数据的表现会很好，但网络的模型对于样例以外的预测则完全无用。正则化有好处：正则化的方法包括l1、l2和丢弃法等。保留一个神经网络不作定型的单独测试集。网络越大，功能越强，但也更容易过拟合。不要尝试用10,000个样例来学习一百万个参数参数 > 样

2017-08-09 17:20:52 34613 1