目录
1 神经网络算法
人工神经网络(Artificial Neural Networks,ANN)也简称为神经网络或者称为连接模型,它是一种模仿动物神经网络行为特征,并进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度,通过调整内部大量节点之间相互连接的关系,从而达到处理信息的目的。
神经网络的研究内容相当广泛,反映了多学科交叉技术领域的特点。主要的研究工作集中在以下几个方面,
①建立模型:根据对生物原始模型机理的研究,进阿里神经元、神经网络的理论模型。包括概念模型、知识模型、数学模型、物理化学模型等。
②算法:在理论模型研究的基础上构建具体的神经网络模型,以实现计算机模拟或准备制作硬件,包括网络学习算法的研究,这方面的工作也被叫做技术模型研究。
③应用:在网络模型与算法研究的基础上,利用人工神经网络组成时间的应用系统,如完成某种信号处理或者模式识别的功能、构建专家系统、制成机器人、复杂系统控制等。
2 神经网络算法原理
人工神经网络是由大量的简单基本原件(神经元)相互连接而成的自适应非线性动态系统。每个神经元的结构和功能比较简单,但大量神经元组合产生的系统行为却能够相当复杂。与数字计算机相比,人工神经网络在构成原理和功能特点等方面更接近人脑,它不是按照程序一步一步刻板的执行,而是能够适应环境、总结规律、完成运算识别或者过程的控制。
人工神经网络首先要以一定的学习准则进行学习(训练),然后才能工作。现以人工神经网络对手写的两个字母的识别为例进行说明。规定当“X”输入网络时,应该输出“1”;当输入“Y”时,应当输出“0”。
故网络学习的准则应该是:如果网络做出错误的判断,则通过网络的学习,应使得网络减少下次犯同样错误的几率。首先,给网络的各连接权赋(0,1)区间内的随机值,将“A”所对应的图像模式输入给网络,网络将输入模式加权求和、与门限阀值相比较后再进行非线性运算。在此情况下,网络输出为“1”和“0”的概率给位50%,也就是说完全随机的。这时如果输出为“1”(结果正确),则使连接权值增大,以便是网络再次遇到“A”模式输入时仍然能够做出正确的判断。如果输出为“0”(结果错误),则把网络连接权值朝着减小综合输入加权值的方向调整,其目的在于使网络下次再遇到“A”输入时能够减小犯错的几率。在经过若干次的学习后网络的判断成功率将会得到大幅的提升。一般来说,网络中所含的神经元个数越多,则它能记忆、识别的模式也就越多。
决定神经网络模型性能的三大要素为:
①神经元(用于信息处理)
②神经元之间的连接方式—拓扑结构
③为适应环境而改善性能的能力(学习能力)
3 神经网络的特点
人工神经网络具有一定的自适应与自组织能力。在学习或训啦你过程中改变突触的权重值以适应周围环境的要求。同意网络因为学习方式以及内容的不同可能产生不同的功能,人工神经网络时一个具有学习能力的系统,可以发展知识,以致超过设计者原有的知识能力水平。
通常而言学习训练方式分为以下两种
泛化能力指没有训练过的样本,有很好的预测能力和控制能力。特别是当存在一些有噪声的样本,神经网络具备很好的预测能力。
当系统对于设计人员来说,很透彻或者很清楚时通常会利用数值分析,偏微分方程等数学工具建立精确的数学模型。但对于相对复杂的系统、说未知的系统,或者说系统的信息很少,我们很难建立数学模型时神经网络的非线性映射能力就体现出其优势,因为它 不需要对系统进行透彻的了解,但是同时能达到输入与输出的映射关系,这就大大简化看设计的难度。
神经网络是根据人的大脑而抽象出来的数学模型,由于人可以同时做一些事情,因此从功能的模拟角度上看,神经网络也具备很强的并行能力(即同时处理多个任务的能力)。
4 人工神经元模型
神经元及其突触是神经网络的基本器件。因此,模拟生物神经网络应首先模拟生物神经元。在人工神经网络中,神经元常被称为“处理单元”。有时从网络的观点出发常把 它称为“结点”。人工神经元是对生物神经元的一种形式化描述。如图2.1所示的是典型的人工神经元模型,通常被称为MP模型。它有3个基本要素,分别是连接权、求和单元和激活函数。
人工神经网络是一个并行和分布式的信息处理网络结构,该网络一般由许多个神经元组成,每个神经元有一个单一的输出,它可以连接到很多其他的神经元,其输入有多个连接通路,每个连接通路对应一个连接权系数。所以,人工神经元的输入输出关系为
为了更直观地了解神经网络的特点,下面举例说明。
这表明神经网络决策为苹果,从上面两个权矩阵和中,并不知道其输出结果是什么。从局部权的分布也很难阿奎那出中存储了什么,将和相加得到一组新的权矩阵
由输入,通过权矩阵运算可得到,由输入,通过权矩阵运算可得到,这说明存储了两种信息,当然它也可以存储更多的信息。
如果感知器中的某个原件损坏了一个,设第三个元件损坏,则