西瓜书-机器学习5.5 其他常见神经网络- ART网络

5.5.2 ART网络

竞争型学习(competitive learning)是神经网络中的一种无监督学习策略。网络输出神经元相互竞争，遵循“胜者通吃”(winner-take-all)原则。

ART(Adaptive Resonance Theory, 自适应谐振理论)网络[Carpenter and Grossberg, 1987, A massively parallel architecture for a self-organizing neural pattern recognition machine]，

网络由比较层、识别层、识别阈值和重置模块。比较层负责接收输入样本，并将其传递给识别层神经元，识别层每个神经元对应一个模式类，神经元数目可以在训练过程中动态增长以增加新的模式类。

接收到信号，识别层神经元之间相互竞争产生获胜神经元。

竞争方式：计算输入向量与每个识别层神经元所对应的代表向量之间的距离，距离小者胜。获胜神经元将其他识别层神经元发送信号，抑制其活性。连接权会更新。

识别阈值对ART网络的性能有重要影响。阈值高：模式多、精细；阈值低：模式少、粗糙。

具有可塑性[有学习新知识的能力]、稳定性[保持对旧知识记忆]

 

ART自组织神经网络结构，是无教师的学习网络。初始不需要确定有多少个神经元。

ART1， 由[Carpenter and Grossberg, 1987]提出，含有并行架构的主-从式算法(leader-follower algorithm),在算法的激活及匹配函数中运用了集合运算，主要处理只含 0 与 1 的影像（即黑白）识别问题/ 二进制信号；

ART2，可以处理灰度（即模拟值）输入，用于处理连续模拟信号；

ART3，具有多级搜索架构，它融合了前两种结构的功能并将两层神经网络扩展为任意多层的神经元网络。由于ART3 在神经元的运行模型中纳入了神经元的生物电化学反应机制，因而其功能和能力得到了进一步扩展.