《深度学习导论及案例分析》一2.15通用逼近定理

####本节书摘来自华章出版社《深度学习导论及案例分析》一书中的第2章，第2.15节，作者李玉鑑 张婷，更多章节内容可以访问云栖社区“华章计算机”公众号查看。

2.15通用逼近定理

多层感知器是一种非常著名的人工神经网络模型，如果包含足够多的隐含神经元，那么即使只有一个隐含层，它所表达的输入输出映射在理论上也能够充分逼近任何一个定义在单位立方体上的连续函数。这就是通用逼近定理的核心内容［142144］，其严谨的数学描述和表达如下：

令激活函数φ是一个非常数、有界且单调递增的连续函数。Im={0，1}m表示m维空间的单位超立方体，C（Im）表示Im上的连续函数空间。那么，给定任意连续函数f∈C（Im）和ε>0，存在一个正整数n>0，实常数αi，wij，bj（1≤i≤n，1≤j≤m），使得

F（x1，x2，…，xm）=∑ni=1αiφ∑mj=1wijxj+bi（2.126）

对输入空间中的所有x1，x2，…，xm，满足

F（x1，x2，…，xm）-f（x1，x2，…，xm）<ε（2.127）