最近看了些人工神经网络的书,觉得要整理下思路,于是就有了下文。
一、神经元的传播:
神经细胞通过把各个输入值跟它们的权重值相乘,这个权重值可以是正,也可以是负,正的话就有激发作用,负的话有抑制作用;然后把它们经过权重调整的值加起来,总和就为此细胞的激励值;最后把这个激励值依激励函数调整一下就得出了输出值;这个激励函数是用来使激励值转为可用的输出值。以下是两个常用的激励函数:
阶跃函数:f(x)=
Logistic函数:1/(1+e^(-x))
阶跃函数缺少导数而无法进行监督训练,Logistic函数正好有易于微分的导数。
二、神经元的连接方式:
最为广泛使用的连接方式前馈网络,它是把神经细胞一层一层的连接起来,主要分为输入层、隐藏层和输出层(如下图)。通过训练可以使神经网络输出我们的目标值,这种训练又可分为有监督训练与无监督训练。
三、有监督训练的反向传播:
下面是一个我跟据神经网络编写的一款实现手机手写功能的软件,它叫字体识别训练机;下载可到我的CSDN空间上传的资源下载: