神经网络的定义
神经网络,是机器学习的一个分支,学名应该叫人工神经网络,与之相对应的是生物神经网络(Biological Neural Networks, BNN),我们将模拟生物神经网络的数学模型统称为人工神经网络模型,简称人工神经网络或者神经网络。
生物神经网络
大脑的学习过程包括以下三个基本步骤或系统。
(1)信息输入。
(2)模式加工。
(3)动作输出。
生物意义上的神经元
“神经元”(Neuron)事实上就是“神经细胞”(Nerve Cell)的别称。
神经元的构成
图1-1
细胞轴突是一条长长的纤维,它把细胞体的输出信息传导到其他神经元。树突用来接收其他神经元的输入信号。细胞体接收所有树突的输入,并通过细胞体内复杂的化学变化,确定细胞体是否需要对轴突产生输出。(如上图蓝字)
神经元具有两个最主要的特性,即兴奋性和传导性。神经元的兴奋性具有一种很特殊的现象,当刺激强度未达到某一阈限值时(限值的概念为人工神经元模仿提供了理论依据,传输函数中大多数函数都是依据此原则来输出得),神经冲动不会发生,而当刺激强度达到该值时,神经冲动发生并能瞬时达到最大强度,此后刺激强度即使再继续加强或减弱,已诱发的冲动强度也不再发生变化。请大家深刻理解这个特性,兴奋性的原理解释了我们为什么需要传输函数,通过了解神经元的构造也可以推出传输函数的数学构成。
神经元的功能表现多种多样,神经元之间会因为某种因素互相建立联系。
组成神经网络
生物神经网络是由很多神经元相互连接的。
神经元有自组织特性。所谓自组织,就是每个神经元都自己决定和另外哪些神经元链接,甚至不链接,没有从一个“领导”的角色去安排大家的工作,而这种自己决定的特性构成了神经元的自主学习(对应于神经网络模型的训练),不存在外部教师的示教。
还需指出:
-输入(树突)输出(轴突)部分是可以由链接强度