深度学习100问64:什么是深度学习中的过拟合和欠拟合

嘿，在深度学习中，过拟合和欠拟合就像是两个小捣蛋鬼。
 
一、欠拟合
 

欠拟合呢，就是模型太“笨”啦。想象一下，你让一个学生去学习一堆知识，然后参加考试。结果这个学生根本没学到多少东西，考试的时候好多题目都不会答。在深度学习里，欠拟合的模型就是没办法很好地学习到数据中的规律。比如说，你用一个很简单的模型去处理一个很复杂的问题，就像用一个小勺子去舀大海里的水，根本舀不过来嘛。这样的模型在训练数据上表现就不太好，更别说在新的数据上了。
 
二、过拟合
 
过拟合呢，就是模型太“聪明过头”啦。还是那个学生的例子，这个学生把课本上的每一个字都背得滚瓜烂熟，但是考试的时候，题目稍微变一点，他就不会了。在深度学习里，过拟合的模型把训练数据中的每一个小细节都记住了，但是却不能很好地泛化到新的数据上。就好像模型只认识它见过的那些特定的例子，一旦遇到新的情况就傻眼了。比如说，用一个非常复杂的模型去处理一个不是那么复杂的问题，就容易出现过拟合。模型可能会把一些噪声或者不相关的特征也当成重要的规律给学了进去。
 
简单来说，欠拟合是模型学得不够好，过拟合是模型学得太“死”了。我们在深度学习中要努力找到一个平衡，让模型既能够学到数据中的重要规律，又不会被一些无关的细节给带偏了。