ART神经网络与SOM神经网络

        今天学习了两个神经网络，分别是自适应谐振（ART）神经网络与自组织映射（SOM）神经网络。整体感觉不是很难，只不过一些最基础的概念容易理解不清。

        首先ART神经网络是竞争学习的一个代表，竞争型学习是一种常用的无监督学习策略，在使用改策略时，网络的输出神经元相互竞争，每一时刻只有一个竞争获胜的神经元激活。

        ART神经网络由比较层、识别层、识别阈值、重置模块构成。其中比较层负责接收输入样本，并将其传递给识别层神经元，识别层每一个神经元对应实个模式类，神经元数目可在训练过程中动态增长以增加心得模式类。在接收到输入信号后，识别层神经元之间开始进行竞争，竞争的最简单方式是计算输入向量与每个识别层神经元所对应的模式类的代表向量之间的距离，距离越小越好。最后距离最短的神经元竞争成功后，会向其他神经元发送一个信号，来抑制其他神经元激活。若输入向量与获胜神经元所对应的代表向量之间的相似度大于识别阈值，则当前书样本将被归为该代表向量所属类别，同时网络连接权将会更新，使以后在接收到相似输入样本时该模式类会计算出更大的相似度，这一步可以理解为为以后的工作做铺垫，通过这种做法可以提高准确度。若相似度不大于识别阈值，则重置模块将在识别层增设一个新的神经元，其代表向量就设置为当前输入向量。这一步我的个人理解为通过这种做法可以一步步完善整个网络，使得分类更加准确。

        在西瓜书对应的这部分内容有下面一段话：显然，识别阈值对ART网络的性能有重要影响。当识别阈值较高时，输入样本将会被分成比较多、比较精细的模式类，而如果识别与之较低，则会产生比较少、比较粗略的模式类。------我在一开始看到这段话的时候感觉他说反了，我自己的理解跟他恰恰相反，在我的理解中阈值就好比一个门槛，只有通过这个门槛才能进这个门，后来我对这段话的理解为，当阈值高了，就好比一张8K与16 K的纸，如果让你在这两张纸上画画，那肯定是纸越大画的越多，同理，阈值越大，则容纳的模式类也就越多----------以上纯属个人理解，如果有错误欢迎指正。

        ART比较好地缓解了竞争型学习中的“可塑性-稳定性窘境”，其中可塑性指神经网络要能够学习新知识，稳定性指神经网络在学习新知识的同时要保持对之前学习的知识的记忆，而不是狗熊掰棒子

            

            SOM神经网络是一种竞争学习型的无监督神经网络，它能将高维输入数据映射到低维空间（通常为二维），同时保持输入数据在高维空间的拓扑结构，即将高位空间中相似的样本点映射到网络输出层中的邻近神经元。SOM神经网络中的输出层神经元以矩阵方式排列在二维空间中，每个神经元都拥有一个权向量，网络在接收输入向量后，将会确定输出层获胜神经元，它决定了该输入向量在地位空间中的位置。SOM神经网络训练的目的就是为每个输出层神经元找到合适的权向量，以达到保持拓扑结构的目的。

        SOM的训练过程其实很简单，就是接收到一个训练样本后，每个输出层神经元都会计算该样本与自身携带的权向量之间的距离，距离短者获胜，然后获胜的神经元及其邻近神经元的权向量将会进行调整，以使得这些权向量与当前输入样本的距离缩小，与ART很相似。图5.11为SOM网络结构