原地址:http://blog.csdn.net/niuwei22007/article/details/49228095可以查看更多文章
通过前几篇的介绍,网络已经选择好了优化器、目标函数、模型以及激活函数。并且给权值选择了初始化方法。那么接下来就是训练。训练过程后会出现什么问题呢?过拟合!而有效解决过拟合的方法就是加入规则项。具体的规则化请见http://blog.csdn.net/niuwei22007/article/details/48929935中对于规则化的介绍。
一、如何使用规则化项
规则化项是一个对于权值参数的惩罚项。它包含在代价函数中。