想改善深层神经网络，这几种途径值得一试！

全文共2734字，预计学习时长5分钟

深层神经网络可以解决诸如自然语言处理、机器视觉、语音合成等复杂任务。提高深层神经网络的性能与理解其工作原理同样重要。这篇文章将解释改善神经网络方面的各种术语和方法。

偏差与方差

偏差与方差是体现网络在训练集和测试集中性能的两个基本术语。下列两类问题可以轻松直观地解释偏差与方差。蓝线表示由神经网络计算的判定边界。

1. 最左侧的图片展示出神经网络存在较大偏差。此时网络学习了一个简单假设，所以不能正确地用于训练数据。因此无法区分不同类的示例，并且对训练集和测试集处理效果不佳。可以说这个网络是不拟合的。

2. 最右侧的图片表明，神经网络存在较大方差。此时网络学习了一个非常复杂的假设，因此无法进行归纳。该方法对训练数据的处理效果较好，而对测试数据的处理效果较差。可以说网络是过度拟合的。

3. 中间的图片展示了一个“恰到好处”的神经网络。它学习了理想假设，这有助于网络筛选出异常情况，并对数据进行归纳。应将实现这种类型的网络定为目标。

图片来源：pexels.com/@pixabay