机器学习系列手记(五):非监督学习之自组织映射神经网络

非监督学习

自组织映射神经网络

      自组织映射神经网络(Self-Organizing Map,SOM)是无监督学习方法中一类重要的方法,可用作聚类、高维可视化、数据压缩、特征提取等多种途径。自组织映射神经网络融入了大量人脑神经元的信号处理机制,有着独特的结构特点。

1、自组织映射神经网络的工作流程

      自组织映射神经网络本质上是一个两层的神经网络,包含输入层和输出层(竞争层)。输入层模拟感知外界输入信息的视网膜,输出层模拟做出响应的大脑皮层。输出层中神经元的个数通常是聚类的个数,代表每一个需要聚成的类。训练时采用“竞争学习”的方式,每个输入的样例在输出层中找到一个和它最匹配的节点,称为激活节点,也叫winning neuron;紧接着用随机梯度下降法更新激活节点的参数;同时,和激活节点临近的点也根据它们距离激活节点的远近而适当的更新参数。这种竞争可以通过神经元之间的横向抑制连接(负反馈路径)来实现。自组织映射神经网络的输出层节点是有拓扑关系的,这个拓扑关系依据需求而定,如果想要一维的模型,那么隐藏节点可以是“一维线阵”,如果想要二维拓扑关系,那么就形成一个“二维平面阵”。
      假设输入空间是 D D D 维,输入模式为 x = x= x={ x i , i = 1 , 2 , . . . , D x_i,i=1,2,...,D xi,i=1,2,...,D},输入单元 i i i 和神经元 j j j 之间在计算层的连接权重为 w = w= w={ w i , j , j = 1 , . . . , N , i = 1 , . . . , D w_{i,j},j=1,...,N, i=1,...,D wi,j

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值