人工神经网络

最近看了些人工神经网络的书，觉得要整理下思路，于是就有了下文。

一、神经元的传播：

 

神经细胞通过把各个输入值跟它们的权重值相乘，这个权重值可以是正，也可以是负，正的话就有激发作用，负的话有抑制作用；然后把它们经过权重调整的值加起来，总和就为此细胞的激励值；最后把这个激励值依激励函数调整一下就得出了输出值；这个激励函数是用来使激励值转为可用的输出值。以下是两个常用的激励函数：

阶跃函数：f(x)=

Logistic函数：1/(1+e^(-x))

阶跃函数缺少导数而无法进行监督训练，Logistic函数正好有易于微分的导数。

二、神经元的连接方式：

最为广泛使用的连接方式前馈网络，它是把神经细胞一层一层的连接起来，主要分为输入层、隐藏层和输出层（如下图）。通过训练可以使神经网络输出我们的目标值，这种训练又可分为有监督训练与无监督训练。

 

三、有监督训练的反向传播:

 

 

 

 

_{下面是一个我跟据神经网络编写的一款实现手机手写功能的软件，它叫字体识别训练机；下载可到我的CSDN空间上传的资源下载：}

http://download.csdn.net/source/1654141