对偶传播神经网络

对偶传播神经网络(CPN)是一种适用于联想存储、模式分类等任务的网络模型。其拓扑结构类似误差反向传播网络,但通过两个阶段训练内星权和外星权。第一阶段采用竞争学习训练内星权,第二阶段使用Widrow-Hoff规则训练外星权。双获胜神经元CPN网和双向CPN网是其两种变体,分别应用于复合输入模式的处理和互逆映射功能。
摘要由CSDN通过智能技术生成

对偶传播神经网络(Counter-Propagation Network,CPN)能存储二进制或模拟值的模式对,因此这种网络模型也可用于联想存储、模式分类、函数逼近、统计分析和数据压缩等功能。

对偶传播神经网络的拓扑结构跟误差反向传播(BP)网络的一样,不同之处在于,CPN采用两个阶段来分别训练竞争层的内星权向量和外星权向量,即第一阶段完全不顾输出层,采用SOFM的方法来训练竞争层的内星权向量,第二阶段采用有导师的Widrow-Hoff规则(最小均方规则LMS)来训练竞争层的外星权向量。

CPN算法步骤

第一阶段采用竞争学习算法对输入层到竞争层的权向量进行训练。

  1. 将内星权值随机赋予0~1上的值,归一化;对输入向量也进行归一化。
  2. 根据输入向量得到获胜神经元。
  3. CPN不设优胜领域,只有获胜神经元的内星权向量可以调整。获胜神经元的输出为1,其他为0.学习率是随时间下降的退火函数。
  4. 如果学习率不为0则回到第1步。

第二阶段采用外星学习算法(由于竞争层的输出为1,所以Widrow-Hoff学习算法退化为外星学习算法),对竞争层到输出层的权向量进行训练。

  1. 随机初始化竞争层到输出层的权向量。
  2. 根据输入得到输出,又有期望输出,可以调整外星权向量:

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值