人工神经网络的生物原型是大脑,人脑中的神经网络是一个非常复杂的组织,其基本组成单位是神经元(神经细胞),成人的大脑中估计有1000亿个神经元之多。十九世纪末二十世纪初,在解剖学家、生物学家、医学家的共同努力下,神经元的组成结构便被研究清楚,一个神经元主要由四部分构成:
- 细胞体:它是神经元的本体,内有细胞核和细胞质,完成普通细胞的生存功能。
- 树突:它有大量的分枝,多达 103 10 3 数量级,长度较短(通常不超过1毫米),用以接收来自其它神经元的信号。
- 轴突:它用以输出信号,有些较长(可达1米以上),轴突的远端也有分枝,可与多个神经元相连。
- 突触:它是一个神经元与另一个神经元相联系的特殊部位,通常是一个神经元轴突的端部靠化学接触或电接触将信号传递给下一个神经元的树突或细胞体。
神经元怎么发挥作用呢?其实神经元是个信号处理单元,它有两种状态:兴奋和抑制。平时处于抑制状态的神经元,当接收到其它神经元经由突触传来的冲击信号时,多个输入在神经元中以代数和的方式叠加。如果叠加总量超过某个阈值,神经元就会被激发进入兴奋状态,发出输出脉冲,并由轴突的突触传递给其它神经元。神经元被触发后有一个不应期,在此期间内不能被触发,然后阈值逐渐下降,恢复原来状态。
神经元模型便是模拟大脑神经元的运行过程,其包含输入,输出与计算功能,输入可以类比为神经元的树突,而输出可以类比为神经元的轴突,计算则可以类比为细胞核。下图是一个典型的神经元模型:包含有 m m 个输入,1个输出,以及2个计算功能:
输入信号来自外部或别的处理单元的输出,在数学上表示为行向量 ,其中 xi x i 为第 i i 个输入的激励电平, 表示输入数目。
连接到结点