人工神经网络（一）概述

                       

               

百科解释：

人工神经网络（Artificial Neural Network，即ANN ），是20世纪80 年代以来人工智能领域兴起的研究热点。它从信息处理角度对人脑神经元网络进行抽象， 建立某种简单模型，按不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型，由大量的节点（或称神经元）之间相互联接构成。每个节点代表一种特定的输出函数，称为激励函数（activation function）。每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重，这相当于人工神经网络的记忆。网络的输出则依网络的连接方式，权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达。 
最近十多年来，人工神经网络的研究工作不断深入，已经取得了很大的进展，其在模式识别、智能机器人、自动控制、预测估计、生物、医学、经济等领域已成功地解决了许多现代计算机难以解决的实际问题，表现出了良好的智能特性。

机器最初被发明是为了服务人类，做人不擅长的事情，比如规律性，重复复杂运算，从第一代计算机诞生到现在，这个功能一次次提升，现在计算机核心部件cpu，在普通家用方面，比如i5-6600四个核心的计算能力大概在20gflops.,也就是每秒200亿次浮点运算，这是人类不能羡慕的一个能力，但是，机器依然限制在机械性运算上，人类发明的这个 [“脑”] 一直希望成为真正的 [“类人脑”] ，在生物领域不断突破的前提下，我们破译人脑的工作，越来越深入，紧跟着就是将人脑运行机制复制到电脑，这样就产生“类人思维”，而这一领域就是现在火热的“AI”人工智能。

如果你觉得这篇文章看起来稍微还有些吃力，或者想要更系统地学习人工智能，那么推荐你去看床长人工智能教程。非常棒的大神之作，我也被圈粉了。教程不仅通俗易懂，而且很风趣幽默。点击这里可以查看教程。

生物神经

生物神经元的结构：神经细胞是构成神经系统的基本单元，称之为生物神经元，简称神经元。神经元主要由三部分构成： 
（1）细胞体; 
（2）轴突; 
（3）树突。 
如下图所示：

突触是神经元之间相互连接的接口部分，即一个神经元的神经末梢与另一个神经元的树突相接触的交界面，位于神经元的神经末梢尾端。突触是轴突的终端。

大脑可视作为1000多亿神经元组成的神经网络。神经元的信息传递和处理是一种电化学活动．树突由于电化学作用接受外界的刺激，通过胞体内的活动体现为轴突电位，当轴突电位达到一定的值则形成神经脉冲或动作电位；再通过轴突末梢传递给其它的神经元．从控制论的观点来看；这一过程可以看作一个多输入单输出非线性系统的动态过程。

神经元的功能特性： 
（1）时空整合功能； 
（3）兴奋与抑制状态； 
（4）结构的可塑性； 
（5）脉冲与电位信号的转换； 
（6）突触延期和不应期； 
（7）学习、遗忘和疲劳。

总结：人类进行思考，就是一个群体思考，每个神经细胞进行独立运行，和其他N个细胞相连接，进行信号接收和传递，且每次接收，都会影响细胞自身状态，这也是记忆的一部分由来，整体的思考，就是一千多亿神经细胞互相交叉影响形成的复杂电化学信号。

现在我们就一步步看人类是怎么认识及搭建神经网络的：

数学模型

人工神经元结构：人工神经元的研究源于脑神经元学说，19世纪末，在生物、生理学领域，Waldeger等人创建了神经元学说。 
人工神经网络是由大量处理单元经广泛互连而组成的人工网络，用来模拟脑神经系统的结构和功能。而这些处理单元我们把它称作人工神经元。人工神经网络可看成是以人工神经元为节点，用有向加权弧连接起来的有向图。在此有向图中，人工神经元就是对生物神经元的模拟，而有向弧则是轴突—-突触—-树突对的模拟。有向弧的权值表示相互连接的两个人工神经元间相互作用的强弱。人工神经元结构如下图所示：

神经网络从两个方面模拟大脑： 
(1)、神经网络获取的知识是从外界环境中学习得来的。 
(2)、内部神经元的连接强度，即突触权值，用于储存获取的知识。

神经网络系统由能够处理人类大脑不同部分之间信息传递的由大量神经元连接形成的拓扑结构组成，依赖于这些庞大的神经元数目和它们之间的联系，人类的大脑能够收到输入的信息的刺激由分布式并行处理的神经元相互连接进行非线性映射处理，从而实现复杂的信息处理和推理任务。

对于某个处理单元（神经元）来说，假设来自其他处理单元（神经元）i的信息为Xi，它们与本处理单元的互相作用强度即连接权值为Wi, i=0,1,…,n-1,处理单元的内部阈值为θ。

那么本处理单元（神经元）的输入为：，而处理单元的输出为：式中，xi为第i个元素的输入，wi为第i个处理单元与本处理单元的互联权重即神经元连接权值。f称为激活函数或作用函数，它决定节点（神经元）的输出。θ表示隐含层神经节点的阈值。

人工神经网络

结合以上数学模型，神经网络的主要工作是建立模型和确定权值，一般有前向型和反馈型两种网络结构。通常神经网络的学习和训练需要一组输入数据和输出数据对，选择网络模型和传递、训练函数后，神经网络计算得到输出结果，根据实际输出和期望输出之间的误差进行权值的修正，在网络进行判断的时候就只有输入数据而没有预期的输出结果。神经网络一个相当重要的能力是其网络能通过它的神经元权值和阈值的不断调整从环境中进行学习，直到网络的输出误差达到预期的结果，就认为网络训练结束。 
对于这样一种多输入、单输出的基本单元可以进一步从生物化学、电生物学、数学等方面给出描述其功能的模型。利用大量神经元相互连接组成的人工神经网络，将显示出人脑的若干特征，人工神经网络也具有初步的自适应与自组织能力。在学习或训练过程中改变突触权重wij值，以适应周围环境的要求。同一网络因学习方式及内容不同可具有不同的功能。人工神经网络是一个具有学习能力的系统，可以发展知识，以至超过设计者原有的知识水平。通常，它的学习(或训练)方式可分为两种，一种是有监督(supervised)或称有导师的学习，这时利用给定的样本标准进行分类或模仿；另一种是无监督(unsupervised)学习或称无导师学习，这时，只规定学习方式或某些规则，而具体的学习内容随系统所处环境(即输入信号情况)而异，系统可以自动发现环境特征和规律性，具有更近似于人脑的功能。

在人工神经网络设计及应用研究中，通常需要考虑三个方面的内容，即神经元激活函数、神经元之间的连接形式和网络的学习(训练)。

神经网络的学习形式

在构造神经网络时，其神经元的传递函数和转换函数就已经确定了。在网络的学习过程中是无法改变转换函数的，因此如果想要改变网络输出的大小，只能通过改变加权求和的输入来达到。由于神经元只能对网络的输入信号进行响应处理，想要改变网络的加权输入只能修改网络神经元的权参数，因此神经网络的学习就是改变权值矩阵的过程。

神经网络的工作过程

神经网络的工作过程包括离线学习和在线判