书籍参考
参考英文在线书籍 Neural Networks and Deep Learning 第四章。
介绍
前面第一章说过,神经网络可以用于各种简单或复杂的问题,就是说它具有一般性/普遍性(Universality)。本章我们就来探讨一下它为什么具有一般性。
鉴于原文提供了大量的交互性的神经网络图和输出曲线图,读者可以用鼠标调节图中神经元的参数/曲线形状,直观看到对应的曲线形状/神经元参数的变化,我就只用静态截图总结下他的思路。本章很轻松,因为通用性的证明很直观,你应该也很熟悉,结合原文的交互式图,拖动几下鼠标就能明白了。
一、一般性(Universality)
神经网络的一般性,是指神经网络可以计算任何函数。用下面曲线对应的函数f(x)举例(先不管函数具体是啥)。可以这么说:
一定会存在一个神经网络,对于任意可能的输入x,都有输出f(x)。比如这个神经网络是输入、输出层都是1个神经元的简单网络:
且当输入、输出