神经网络
文章平均质量分 80
pmt123456
这个作者很懒,什么都没留下…
展开
-
momentum动量方法
由一阶滤波器得到启发(采用本次采样值与上次滤波输出进行加权,得到有效滤波,使得输出对输入有反馈作用) 如下图,当γ增加,滤波器输出震荡减少。平均滤波器输出与平均滤波器输入相同,岁当当γ增加时,滤波器输入变慢。滤波器有助于减少震荡的书数目,同时仍然保持平均值。动量MOBP 将动量滤波器加到参数的改变后,得到:。 由于使用动量项,可原创 2016-09-13 11:34:35 · 4297 阅读 · 0 评论 -
可变学习速度的VLBP
python代码实现效果很不好,当学习率不太大的时候还行,一旦大于一个值就完全崩了,暂时不知道什么问题,先贴在这#coding=utf-8import numpy as npfrom math import eimport matplotlib.pyplot as pltimport scipy.io as siodef logsig(x): return 1/(1+e**原创 2016-09-14 19:11:17 · 943 阅读 · 0 评论 -
简单的识别网络instar
1.无监督的hebb规则无监督的hebb规则将格局神经元的输入和输出与它们的乘积之间的比例增加权值带衰减的hebb规则 上式中,如果连续提交并更新w时,权值w将趋于无限大其中γ为衰减速度,最大权值由γ决定2.instar神经元instar的输入输出表达式对于两个订场的向量,其内积在方向相同时最大因此inst原创 2016-09-14 19:57:50 · 1183 阅读 · 0 评论 -
自组织特征图
为了模仿生物学系统的活跃区,并且不必实现非线性的加强中心,抑制周围的反馈联结,使用自组织适应图(SOFM)网络受限使用竞争层所用的同一过程来觉出获胜的神经元i*;然后再获胜神经元周围一定范围的所有神经元的权值向量用Kohohen规则更新:其中邻域包含所有落在神经元i*为中心,半径为d的所有神经元的下标。当向量p被提交,获胜神经元的权值和其领域内内的神经元向量项p移动。结果是邻域内的神经原创 2016-09-18 14:19:49 · 1961 阅读 · 0 评论 -
GrossBerg网络
1.生物学启发 Grossberg网络是受到了人类视觉系统的生理学研究的启发如图,视网膜是大脑的一部分,它由三层神经细胞组成:外层光感受器:转化光成电信号杆状体 – 使我们能在昏暗的情况下看见东西锥体 – 使我们能看到精细的细节和色彩中间层双极细胞 – 连接光感受器到第三层水平细胞 – 连结感受器和双极细胞无长突细胞 – 连结双极原创 2016-09-18 20:26:44 · 1948 阅读 · 0 评论 -
自适应谐振理论ART网络
一、Grossberg网络存在的问题 之前提过的Grossberg网络和竞争性网络的一个关键问题是不能总是形成稳定的聚类(或分类)。学习过程的不稳定性源于网络的自适应性(或可塑性),前馈型网络完成训练之后,即可投入正常运行。若在使用过程中环境发生了变化,则需要重新构造一个能表现当前环境的样本集,并运用该样本重新对网络进行训练。在这种情况下,不能只用变化后新加的样本对网络进行“补充训原创 2016-09-22 15:21:28 · 7564 阅读 · 1 评论