详解机器学习中的“正则化”（Regularization）

〇、一些题外话，无感者可略过

最近我所在的各种（机器学习、数据挖掘、机器视觉、图像处理）群里时不时就会有人问到这个问题——机器学习中的正则化到底是什么？它跟过拟合又有什么关系？我通常的回答都是希望他们能去好好读一下我红色书皮的那本《R语言实战——机器学习与数据分析》，因为我觉得里面确实已经讲得非常非常详细了。

说起来，“正则化”（Regularization）确实不是一个新鲜的问题，但是为什么现在这么多人开始为她欢喜为她愁？——因为深度学习现在太火了！像Regularization、Loss function等等这些名词在研究深度学习时都无法避开，但是它们确实早就存在了。