SOM 的秃头之旅

SOM 的秃头之旅

SOM的算法流程

算法流程摘自：https://zhuanlan.zhihu.com/p/73534694

第一步：与其他神经网络相同，需要将Weighs初始化为很小的随机数

第二步：随机取一个 输入样本Xi

第三步：

遍历竞争层中每一个节点：计算Xi与节点之间的相似度(通常使用欧式距离)
选取距离最小的节点作为优胜节点(winner node)，有的时也叫BMU(best matching unit)
第四步：根据邻域半径σ(sigma)确定优胜邻域将包含的节点；并通过neighborhood function计算它们各自更新的幅度(基本思想是：越靠近优胜节点，更新幅度越大；越远离优胜节点，更新幅度越小)

第五步：更新优胜邻域内节点的Weight：

W_v(s+1) = W_v(s) + θ(u,v,s) · α(s) · (D(t) - W_v(s))
θ(u,v,s)是对更新的约束，基于离BMU的距离 即neighborhood function的返回值
W_v(s)是节点v当前的Wight
第六步：完成一轮迭代(迭代次数+1)，返回第二步，直到满足设定的迭代次数

SOM 算法的实际意义

害！看了很多博客还有一些代码，发现SOM算法其实就是用比原始数据维度较低的具有网格形状的神经结点，来拟合样本数据的数据分布，并记录每个输入样本的优胜节点，作为映射的低维样本点。聚类其实就是衡量输入和各个神经结点的距离，离的最近的那个神经结点的类别就是输入的类别。其实一定程度上来讲，SOM和k近邻算法有一定的相似之处。Mark一下吧，下次再遇到不会半天想不通样本怎么少了的问题。。。