人工神经网络(ANN)是由试图去模仿生物神经系统而激发的。人的大脑主要由神经元(neuron)组成,神经元通过轴突(axon)连接在一起。当神经元收到刺激时,神经脉冲(nerve impulses)通过轴突由一个神经元传递到另一个神经元。一个神经元通过树突(dendtrite)连接到其他神经元的轴突,树突是神经元细胞体的延伸物。树突和一个轴突的连接点叫做突触(synapse)。人的大脑通过在同一个脉冲反复刺激下改变神经元之间的突触连接强度来进行学习。神经网络由很多简单的,相互交互的节点构成。信息通过这些节点间的连接的强度来表达,通过在学习过程中调整这些连接来获得。
在神经网络中一个计算单元就是一个人工神经元,一个人工神经元由以下几部分组成:
(1)输入信号,这些信号代表数据集来源于环境或者是其他神经元的输出。
(2)一系列的权重wi ,这些权重代表连接的强度。
(3)输入加权求和 ∑WiXi
(4)一个阀值函数 f ,这个函数最终的输出结果由是否输入加权求和大于,等于或小于这个阀值来决定。
下面是net = ∑WiXi 来决定。
下面是一个简单的可以用来计算AND函数的人工神经元:
这个人工神经元由三个输入组成,原始输入 x 和 y,第三个输入是常量+1的偏置输入 。假如输入的x,y和偏置因子的权重分别为+1,+1,和-2。则可以得到以下结果:
以x=1, y=1来举例具体计算过程
output = 1*(+1)+1*(+1)+1*(-2)= 0,结果大于等于0,所以输出为1.
同理当x = 1, y = 0时,
output = 1*(+1)+0*(+1)+ 1*(-2)=-1,结果小于0,所以输出为-1。
同样的方法我们也可以用人工神经网络计算OR运算,只需要将偏置权重调整为-1即可。感知器构造如下:
- 学习感知器模型:
感知器训练算法能够用来调整一个人工神经元的权重,这个权重将会被一直调整直到这个神经元的输出与真实的训练样本的输出相一致。
下面的公式是权重的调整的一个方法:
Δwi=c(d−f(net))xi
在这个公式中:
Δw