正则化

一.正则化概述

深度学习可能存在过拟合问题——高方差，有两个解决方法，一个是正则化，另一个是准备更多的数据，这是非常可靠的方法，但你可能无法时时刻刻准备足够多的训练数据或者获取更多数据的成本很高，但正则化通常有助于避免过拟合或减少你的网络误差。

二.正则化方法

1.L1和L2正则化

https://blog.csdn.net/bestrivern/article/details/85266077

2.Dropout

https://blog.csdn.net/bestrivern/article/details/85273238

转载一篇博文写的也非常好：https://blog.csdn.net/program_developer/article/details/80737724

3.其他正则化方法

1.数据扩增

2.early stopping(早停法)