M-P神经元模型
基于人类神经元的多突触传递——而研究出的人工神经元,允许多个输入,并根据连接权以及阈值的到预测的输出。
这种“阈值加权和”的神经元模型称为 M-P模型 ( McCulloch-Pitts Model ),也称为神经网络的一个 处理单元( PE, Processing Element )。
大家可以查一查一些生物方面的书籍,了解一下这个神经元是如何工作的。我们可以概括出生物神经网络的假定特点:
- 每个神经元都是一个 多输入单输出的信息处理单元;
- 神经元输入 分兴奋性输入和 抑制性输入两种类型;
- 神经元具有 空间整合特性和 阈值特性;
- 神经元输入与输出间有固定的 时滞,主要取决于突触延搁
而多个神经元的组合,再按照一定层次的排布就得到了神经网络。
激活函数
(1) 线性函数 ( Liner Function )
(2) 斜面函数 ( Ramp Function )
(3) 阈值函数 ( Threshold Function)
以上3个激活函数都属于线性函数,下面介绍两个常用的非线性激活函数。
(4) S形函数 ( Sigmoid Function )
(5) 双极S形函数
Reference
- https://blog.csdn.net/u013007900/article/details/50066315
- 《机器学习》周志华著