混沌神经网络学习笔记六

任何一个神经网络都包含三个重要构件：神经元模型、学习算法和网络拓扑结构。

为了降低神经元之间连接的复杂性，尝试将Adachi神经网络由完全耦合结构改为线性结构。一棵具有N个节点的树仅有N-1条边。修改后的网络拓扑结构变成：任意两个神经元之间能通过生成树联系起来，连接所有神经元的总边数是N-1。改变了网络的拓扑结构，要用梯度搜索法（比较简单的算法，广泛应用于各类神经网络和机器学习）设置网络新的权值。

若Adachi网络受到的外部激励为已知模式，那么网络的输出将类似于周期轨道，利用这一点可以实现模式识别。混沌模式识别性质：对于一个已知的外部激励模式，输出和外部激励之间会产生“共鸣”，即在网络的动态演化过程中，输入的外部激励模式被频繁检索；而对于一个未知的外部激励模式，输出就呈现出混沌状态。

模式识别：就是通过计算机用数学技术方法来研究模式的自动处理和判读。是指对表征事物或现象的各种形式的（数值的、文字的和逻辑关系的）信息进行处理和分析，来对事物或现象进行描述、辨认、分类和解释的过程，是信息科学和人工智能的重要组成部分。

小世界网络：60年代美国学者Milgram通过社会调查得出的一项成果。世界上任何两个互不相识的人，平均来说，通过6个人就可以建立联系，通常也被称作为六度分离原则。Watts和Strogts对小世界网络进行了研究。构造方法：1、首先生成邻近耦合网络，每个节点和与其相邻的左右各k/2个节点相连。2、对网络中的每一条边，重复以下操作：断开之前的连接，用固定的概率P和网络中任意选择的一个节点相连。这个模型被称为WS模型。当p=1时，该网络就变成完全随机网络；当p=0时，网络仍然为临近耦合网络。

由于WS模型在进行重连接时可能会使一些节点孤立从而造成网络不连通，故Newman和Watts对这个模型做了相应的改动：1、首先生成邻近耦合网络，每个节点和与其相邻的左右各k/2个节点相连。2、用固定概率P在随机选择的两个节点之间加上一条边。这个模型为NW模型。当p=1时，该网络就变成了完全耦合网络；当p=0时，该网络保持不变，仍为邻近耦合网络。

NW模型与WS模型的最主要区别在于增边还是减边。从本质上讲，当随机重连概率或随机增加概率很小并且网络边数很大时，这两个模型是相同的。

SmallWorld-Adachi 网络具有较好的模式识别性质。在适当的参数设置下，当外部激励为已知模式时，网络的输出会与外部激励发生“共鸣”，即外部输入模式会被频繁识别，相反，其它模式却不出现；当外部激励为噪音模式时，与之对应的模式也会被识别，而噪音模式本身很少出现；当外部激励为未知模式时，网络不能将该激励与任何已知模式对应。