神经网络设计学习笔记（10）——有监督的Hebb学习（4）

于 2019-12-09 00:25:08 发布
阅读量287 收藏
点赞数
分类专栏： 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44956186/article/details/103451242
版权

有监督的Hebb学习
小结
线性联想器
由于首次讨论Hebb学习而采用的较为简单的结构 如图：
在这里插入图片描述
在这里插入图片描述
Hebb规则
如图
在这里插入图片描述
仿逆规则
减少Hebb规则误差的一种方法。如图所示
在这里插入图片描述
参考文献
[1] Hagan M , Hagan, 戴葵. 神经网络设计[M]. 机械工业出版社, 2002.

weixin_44956186
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
基于Hebb学习规则的单神经元PID控制的S函数
04-30
实测可用。由于大多数做的单神经元都是基于具体的模型，但这个是具有鲁棒性的。
神经网络第二版--学习笔记（有监督的Hebb规则，简单的代码实现0,1,2识别）
u011878436的博客
07-01 3388
神经网络第二版学习笔记 第一回 有监督的Hebb学习 提示：写完文章后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录神经网络第二版学习笔记一、Hebb于其书中的著名思想二、Hebb规则1.假说抽象于神经网络2.应用Hebb规则总结 一、Hebb于其书中的著名思想 ““当神经细胞A的轴突，足够接近到能够激发神经细胞B，且反复或持续地刺激细胞B，那么A或B中一个或者两个细胞将会产生某种增长过程或代谢变化，从而增强细胞A对细胞B的刺激效果。”” 这话初看挺绕的，但是可能是这么个意思：细胞A和
Hebb Learning 监督学习的例子
liuyuehui的专栏
09-13 4608
赫布学习（Hebb  Learning）基于赫布规则（Hebb Rule）: When an axon of cell A is near enough to excite a cell B and repeatedly or persistently takes part in firing it, some growth process or metabolic change takes p
神经网络设计学习笔记（10）——有监督的Hebb学习
weixin_44956186的博客
11-17 1290
Hebb规则是最早的神经网络学习规则之一，由Donald Hebb在1949年作为大脑的一种神经元突出调整的可能机制而提出，从那以后Hebb规则就一直用于人工神经网络的训练。 Hebb假设 “当细胞A的轴突到细胞B的距离近到足够激励它,且反复地成持续地刺激B，那么在这两个细胞或一个细胞中将会发生某种增长过程或代谢反应,增加A对细胞B的刺激效果。” 线性联想器 Hebb学习规则能用于和多种神经网络结...
神经网络设计学习笔记（10）——有监督的Hebb学习（3）
weixin_44956186的博客
11-25 695
仿逆规则 之前我们提到的样本输入模式都是正交的，否则Hebb规则会产生误差。为了解决这种误差，大能们就研究出一个东西叫仿逆规则。 线性联想器的任务是对于输入Pq产生输出tq，即 Wpq=tq，q=1，2 …，Q（1） 如果无法找到使这些等式绝对成立的全职矩阵，那么也希望找到使它们近似成立的权值矩阵。一种方法是：选取一个全职矩阵，使下列性能参数最小化： 如果样本输入向量Pq是标准正交的，那么用He...
神经网络_HopfieldHebb_神经网络代码_神经网络hebb_sellfdn_
09-29
Hopfield神经网络常用学习算法是Hebb学习规则，多用于控制系统设计中求解约束优化问题。SOFM神经网络常作为一种样本特征的检测器。
有监督联想型人工神经网络优化算法的归纳与应用
02-01
研究了有监督学习联想人工神经网络的一般算法，指出算法中的两个分支点，从而确定仿逆规则在一定程度上优于Hebb规则。介绍了Hamming距离的概念，提出两向量相似度的概念。总结了有监督学习联想人工神经网络的优化...
基于Hebb与BP神经网络组合的故障电弧辨识方法.pdf
09-26
基于Hebb与BP神经网络组合的故障电弧辨识方法.pdf
神经网络原理，学习神经网络的经典教材
08-11
监督学习讨论感知机学习 规则，有监督的Hebb学习，Widrow-Hoff学习算法，反向传播算法及其变形，RBF网络，正则 化网络，支持向量机以及委员会机器。无监督学习包括主分量分析，自组织特征映射模型的 竞争学习形式，...
神经网络学习笔记2：有监督的Hebb学习
03-03 714
神经网络学习笔记2：有监督的Hebb学习 http://blog.csdn.net/laviewpbt/article/details/1382491          仿逆规则使误差平方和最小化，而LMS算法（见神经网络学习笔记1）则调整权值使均方误差最小，因而两者的结果是相同的，但是LMS算法每输入一个模式就更新一次权值，因此他可以用来实时的学习，而仿逆规则
（二）有监督神经网络（最后两张图浓缩精华）
一个致力“使己成为人”的专栏
03-29 1179
多层神经网络 最小二乘损失和Softmax损失的网络结构图，及前传和后传递推公式！
神经网络学习笔记（9）——神经网络中的线性变换
weixin_44956186的博客
10-27 1421
在上次的学习笔记中说到，线性代数是神经网络所需要的的数学基础，而且上次复习了线性空间相关知识，本章将探讨在神经网络中的线性变换。 在之前的学习笔记中说到的输入向量与权值矩阵相乘是执行神经网络的重要操作，该操作就是线性变换的一个具体实例。 1.线性变换 首先定义变换的概念。 变换 一个变换有三个部分 （1）一个被称为定义域的元素集合X={xi}； （2）一个被称为值域的元素集合Y={yi}...
神经网络学习笔记（8）——信号和权值向量空间（1）
weixin_44956186的博客
10-20 744
本次博客为复习线行代数知识，因为线性代数是理解神经网络必修学科。 1.线性向量空间 在我个人看来他就是满足一定的式子的抽象概念，具体如下： ****设V是一个非空集合，P是一个域。若： 1.在V中定义了一种运算，称为加法，即对V中任意两个元素α与β都按某一法则对应于V内惟一确定的一个元素α+β，称为α与β的和。 2.在P与V的元素间定义了一种运算，称为纯量乘法(亦称数量乘法)，即对V中任意元素α和...
神经网络设计学习笔记（1）——神经元模型
weixin_44956186的博客
08-18 726
利用一些简单的人工“神经元”构造一个小系统，然后对其进行训练，从而具备一定的功能，正是人类研究人工神经网络的出发点，我们在这里考虑的神经元不是生物神经元，他们是对生物神经元极其简单的抽象，可以用程序或硅电路实现的人工神经元。 现在就对人工神经元的一些基础模型进行阐述。 **神经元模型** 神经元模型可以间的的分为单输入神经元和多输入神经元。 1.单输入神经元 如下图，为最基础的单输入神经元，需要...
神经网络设计（3）—— 利用前馈网络对水果进行分类
weixin_44956186的博客
08-25 698
在一条传送带上，有苹果和橘子 如何将他们利用神经网络进行分类，就是本次博客的内容，一共有三种网络，本次介绍前馈网络来处理这件事情。 1.问题简述 在运送水果的传送带上，有有一组感应器，可以测量水果的 外形，质地，重量。 如果是圆形 传感器输出就是1 椭圆就是-1 以此类推 表面光滑为1 粗糙为-1 重量超过1磅 输出1 少于1磅 输出-1 依此，每个水果都可以与如下三维向量来表示 外形 p=（质地...
神经网络设计学习笔记（4）——利用Hamming网络对水果进行分类（1）
weixin_44956186的博客
09-01 641
在上一次博客已经简要阐述前馈网络（感知机）对水果的分类，这次学习Hamming网络，并用其对水果进行分类。 依旧是分类苹果橘子的案例，工作流程如图，本次利用Hamming网络解决此问题，所以三个传感器的输出输入到Hamming神经网络。然后网络输出水果的类型，接着把不同类型的水果分别送到相应的储存仓内。就完成了对水果的分类。 1.Hamming网络简介 Hamming网络是专门为求解二值（问题中...
Hopfield神经网络用Hebb规则学习的特点
最新发布
05-22
Hopfield神经网络是一种基于Hebb规则学习的神经网络，它的学习和应用具有以下特点： 1. 自关联性：Hopfield神经网络是一种自关联性网络，即它可以将输入模式存储在网络中，并能够对输入模式进行恢复，即通过网络的自反馈作用，使输入模式稳定下来。 2. 无监督学习：Hopfield神经网络的学习过程是无监督的，即网络不需要标记好的数据集或者指导来进行学习，而是通过神经元之间的相互作用来进行学习。 3. 异步更新：Hopfield神经网络的神经元是按照异步的方式更新的，每个神经元的更新是独立的，这样可以避免网络陷入局部极小值。 4. 对称权重矩阵：Hopfield神经网络的权重矩阵是对称的，这意味着每个神经元与其他所有神经元之间的连接权重是相同的，这种对称性保证了网络的稳定性和收敛性。 5. 容错性：Hopfield神经网络在噪声干扰下仍然能够正确地提取和恢复模式，这种容错性使得它在模式识别和数据恢复方面具有广泛的应用。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值