第三章 自组织神经网络

第四章 自组织神经网络

（1）自组织神经网络的典型结构

（2）自组织学习(self-organized learning) ：
通过自动寻找样本中的内在规律和本质属性，自组织、自适应地改变网络参数与结构。
自组织网络的自组织功能是通过竞争学习（competitive learning）实现的。

4.1竞争学习的概念与原理

4.1.1基本概念

1.分类和聚类

（1）分类——分类是在类别知识等导师信号的指导下，将待识别的输入模式分配到各自的模式类中去。
（2）聚类——无导师指导的分类称为聚类，聚类的目的是将相似的模式样本划归一类，而将不相似的分离开，其结果实现了模式样本的类内相似性和类间分离性。由于无导师学习的训练样本中不含有期望输出，因此对于某一输入模式样本应属于哪一类没有任何先验知识。对于一组输入模式，只能根据它们之间的相似性程度分为若干类，因此相似性是输入模式的聚类依据。

2.相似性测量

（1）欧式距离法

（2）余弦法

4.1.2竞争学习原理

1.竞争学习规则（Winner-Take-All)

​ 网络的输出神经元之间相互竞争以求被激活，结果在每一时刻只有一个输出神经元被激活。这个被激活的神经元称为竞争获胜神经元，而其它神经元的状态被抑制，故称为Winner Take All。

• 3个步骤：

  （1）向量归一化

  首先将当前输入模式向量X和竞争层中各神经元对应的内星向量Wj 全部进行归一化处理； (j=1,2,…,m)

  

  

  （2）寻找获胜神经元(详细看书p82)

  （3）网络输出与权值调整(详细看书p83)

  2.例子

  

  权值调整过程：

  

4.2自组织特征映射神经网络（Self-Organizing feature Map）

4.2.1 SOM网的生物学基础

SOM模仿人的信息处理，如视觉和听觉，看到图片只有听觉系统兴奋，听到声音，只有听觉系统兴奋。

4.2.2 SOM网的拓扑结构

4.2.3 SOM网的权值调整域

SOM网的获胜神经元对其邻近神经元的影响是由近及远，由兴奋逐渐转变为抑制，因此其学习算法中不仅获胜神经元本身要调整权向量，它周围的神经元在其影响下也要程度不同地调整权向量。这种调整可用三种函数表示：

​ 以获胜神经元为中心设定一个邻域半径，该半径圈定的范围称为优胜邻域。在SOM网学习算法中，优胜邻域内的所有神经元均按其离开获胜神经元的距离远近不同程度地调整权值。
​ 优胜邻域开始定得很大，但其大小随着训练次数的增加不断收缩，最终收缩到半径为零。

SOM的运行原理和后面的下节课总，没听懂