首先人工神经网络是受生物生物神经网络的启发构造的。
那么关于生物神经网络的特点主要有
1 - 神经元及其联接
2 - 神经元之间的联接强度决定信号传递的强弱
3 - 神经元之间的联接强度是可以随训练而改变的
4 - 信号可以起到刺激作用,也可以起到抑制作用
5 - 一个神经元接受的信号的累积效果决定改神经元的状态
6 - 每个神经元都有一个阀值
人工神经元是可以模拟生物神经元的一阶特性——输入信号的加权和。
并且其输入有两种 X和W向量,其中X为输入向量 W为联接权向量,用net表示神经元获得输入信号的累积效果;
net =XW
激活函数 指的是为使神经元在获得网络输入后个给予相应的输出,给定一个阀值,使该神经元获得的输入信号累积超过阀值的时候,就处于激活状态。 当其采用函数变换对神经元的输入进行变换处理的时候该函数就是激活函数或者激励函数
o =f (net)
激活函数可以采用多种函数类型 线性函数 非线性函数 阶跃函数 s型函数
M-P模型
将神经元基本的模型和激活函数结合在一起构成人工神经元,也称为PE处理单元
神经元之间的联接模式
层内联接:
层内联接又叫做区域内联接或者侧联接 ,它是本层内的神经元到本层内的神经元之间的联接,可用来加强和完成层内神经元之间的竞争,当需要加强组内时这种联接取正值;当需要组内竞争时联接取负值。循环联接
循环联接在这里指的是神经元到自己身的联接,用于加强自身的激活值,是使本次输出于上次的输出相关,是一种特殊的反馈信号。- 层级联接
层间联接值的是联接不同层中的神经元之间的联接。这种联接用于实现层间的信号传递。