神经网络如何模拟任意函数？

一元函数的模拟

---

直线

这个是最简单的情况，我们使用一个不带激活函数的神经元即可模拟。

$f(x)=wx+b$

通过调整$w,b$参数，即可模拟任意直线。

阶跃函数Step Function

我们使用一个带Sigmoid激活函数的神经元来模拟。

随着$w$参数继续增大，神经网络就会逐步逼近该函数。

矩形脉冲函数

我们分成几步来模拟：

1. 使用1个神经元来模拟函数的左半部分。

f 1 ( x ) = sigmoid ( w 1 x + b 1 ) f_1(x) = \text{sigmoid}(w_1x+b_1) f1​(x)=sigmoid(w1​x+b