深度学习理论基础7-初识神经网络

为了有种仪式感。我给出了神经网络的抽象表示。各层的名字图上已经给的很清楚了。图上没有体现到的知识是，中间层也叫隐藏层。因为这个模型只有2层有权重，所以通常被叫做'2层网络'。

让我们回到感知机。下面是感知机的数学公式表示：

还是原来的配方，还是原来的味道。接着给你感知机的图像表示，只是这次我们不要省略b，而是明确的把b添加到图里面，下图：

想必有一撮读者在此处懵逼了几秒。不知道1是什么意思。其实就是1作为一个输入信号，b作为权重。1*b还是b。

此时y的值是多少呢？如果 b + w 1 * x1 + w 2 *x 2 大于0时y为1，否则为0.

但是文字描述，是不能用作计算的。所以我们用一个函数来表示这一句描述：y = h(b + w 1 x 1 + w 2 x 2 ) 。

现在只需要把h()实现就可以了：

哦哦。真是一个简单到爆炸的函数。不要着急。这只是开始(我是不是剧透了)。

虽然简单，人家是有正式的并且很帅的名字的-----激活函数！

给这个过程来张全家福：

那么，问题来了。激活函数是不是只有这一个成员呢？当然不是啦。是我还会问吗？有更加复杂的激活函数，我们在下一节讨论，大家先回家吃饭吧。下一节再见！