深度学习入门-01感知机和神经网络对比

一.概念

1.1 感知机概念

感知机由美国学者Frank Rosenblatt在1957年提出，它通过接收多个输入信号，输出一个信号。比如，我们通过检查者的各项标准(血压、抽血后的各项参数、心跳心率等，多个信号)来评价这个检查者是否有疾病(有or没有，一个信号)。如图，是有两个输入的感知机。

上图公式为

1.2 神经网络概念

神经网络官方定义见百度百科，神经网络其实就是多层感知机(把多个单层感知机组合在一起)，即使用sigmoid或者tanh或relu等平滑的激活函数的多层网络。

1.3 区别

如果是单层网络(使用阶跃函数)的话，如下图，则为朴素感知机。如果是多个单层感知机叠加的话，就是多层感知机。

如果是使用平滑性的非线性激活函数(sigmoid，relu, softmax, leakyrelu等）的多层网络就是神经网络，如下图。

所以总结就是:
1.如果使用了平滑性的非线性激活函数的多层网络为神经网络。
2.如果使用的是像阶跃函数一样非平滑性的激活函数为感知机。根据单层和多层分为朴素感知机和多层感知机，