原始论文拾遗之BP算法

最新推荐文章于 2022-07-26 22:46:45 发布
最新推荐文章于 2022-07-26 22:46:45 发布
阅读量1.2k 收藏 4
点赞数
文章标签： 神经网络 人工智能 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_46110834/article/details/110950216
版权

首先献上BP算法的论文名《Learning representations by back-propagating errors》需要的同学可以谷歌自取啦~

首先声明，这篇文章不讲BP算法或者MLP的机理，仅记录总结一些Hinton在论文中提到的重要技巧，这些技巧在视频或者其它博客是不容易看到的。记录在此，一是为了自己归纳总结，二是基于开源精神，希望能帮大家在自学的路上少一些苦难。

正文：
1.自组织网络的愿景
在这里插入图片描述
自组织神经网络的终极愿景是找到一种强有力的连接修改规则，使得任意连接的神经网络经过修改之后，能够完成某一类特定任务。

2.BP算法的结果
在这里插入图片描述
BP算法的结果是隐藏层的神经元捕捉到了任务域中输入的某些特征。

3.激活函数，输入函数的选取
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
激活函数和输入函数不一定要选用BP算法的标准形式。其中对激活函数的要求仅仅是其一阶导数是有界的

最低0.47元/天 解锁文章
是苍啊！
关注
  • 0
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
[BP系列]-Learning representations by back-propagating errors
Dream__Zh的博客
03-21 3143
Learning representations by back-propagating errors-[BP系列] 作者：David Everett Rumelhart, Geoffrey E. Hinton, Ronald J. Williams DE Rumelhart, GE Hinton, RJ Williams于1986年发表了两篇关于Back-propagating的文章，参见
《人工智能杂记》神经网络架构发展史（CNN）
不问归期的博客
07-06 9572
笔者主要从事图像的识别与分类研究，在这里笔者值探讨卷积神经的发展史。 1.BP 1985年，Rumelhart和Hinton等人提出了后向传播（Back Propagation，BP）算法（也有说1986年的，指的是他们另一篇paper：Learning representations by back-propagating errors)，使得神经网络的训练变得简单可行，这篇文章在Goo...
learning representations by back-propagating errors
03-25
learning representations by back-propagating errors
Learning representations by back-propagating errors【译文】
headonenjoy的博客
08-23 2965
Learning representations by back-propagating errors 通过反向传播错误学习表示 反向传播算法最初是在1970年代引入的，但是直到1986年David Rumelhart，Geoffrey Hinton和Ronald Williams发表了著名论文【Learning representations by back-propagating errors Rumelhart et al., Nature, 1986】后，它的重要性才得到充分认识。 这篇篇论文描述
Learning representations by back-propagating errors（反向传播BP算法译文（附原文））
cyf1294311560的博客
07-26 2296
这篇文章清晰地阐释了backpropagation的过程，它建立在梯度下降法的基础上。BP算法的学习过程由正向传播过程和反向传播过程组成。在正向传播过程中，输入信息通过输入层经隐含层，逐层处理并传向输出层。如果在输出层得不到期望的输出值，则取输出与期望的误差的平方和作为目标函数，转入反向传播，逐层求出目标函数对各神经元权值的偏导数，构成目标函数对权值向量的梯量，作为修改权值的依据，网络的学习在权值修改过程中完成。原文是。.....................
反向传播-Hinton论文系列《Learning representations by back-propagating errors》
zephyr_wang的博客
09-08 3233
1 简介 本文根据1986年Hinton等人写的《Learning representations by back-propagating errors》翻译总结的。 对于神经网络，我们描述了一个新的学习过程，反向传播（back-propagation）。其不同于感知机的方法。 如果输入单元直接与输出单元相连，它是相对容易找到一个学习规则，即迭代调整连接的相关参数，以达到不断减少网络输出与预期输出直接的差距。但当我们引入隐藏单元时，学习将变得有趣但非常困难，因为这些隐藏单元的实际状态或者预期状态并不是为任务
图论拾遗（一）题解1
08-03
【图论拾遗（一）题解1】这篇文章主要探讨了如何解决图论中的特定问题，包括求解无向图中最远两点之间的距离以及寻找有向图中的最短路径。文章通过三个具体的POJ在线判题平台上的题目来阐述相关算法。 首先，POJ...
【算法拾遗】阿里实习生电面题目
08-02
这是一个涉及到字符串处理和算法优化的问题。首先，我们可以采用蛮力方法来解决，即通过三层嵌套循环来遍历并打印所有子串。这种简单的方法虽然直观，但其时间复杂度高达O(n*n*n)，其中n是字符串的长度。这种方法在...
C++内存泄漏检测拾遗
01-19
在MFC开发环境中，当运行退出了，Visual STudio会在输出窗口提示是否有内存泄漏。也可以借助MFC类CMemoryState动态地检测并输出内存泄漏信息。 　在非MFC框架中，需要借助CRT函数实现这些功能。...
Learning representations by back propagating errors(1985)
02-06
BP算法的经典文章。反向传播算法最早于上世纪70年代被提出，但是直到1986年，由David Rumelhart, Geoffrey Hinton, 和Ronald Williams联合发表了这篇论文之后，人们才完全认识到这个算法的重要性。
深度学习必读论文集
04-06
深度学习领域的经典论文，主要由(hiton, lecun, bengio)三巨头完成，包括： 奠基： DeepLearning_By_Three_Giant.pdf Learning Representation By Back Propagation.pdf Dropout- A Simple Way to Prevent Neural Networks from Overfitting.pdf CNN: ImageNet Classification with Deep Convolutional Neural Networks.pdf Gradient-based learning applied to document recognition.pdf 应用相关论文： Distributed Representations of Words and Phrases and their Compositionality.pdf DeepWalk Online Learning of Social Representations.pdf node2vec Scalable Feature Learning for Networks.pdf Wide & Deep Learning for Recommender Systems.pdf
《Back-end Performance》2017 英文原版 PDF格式
12-14
Because every second—every kilobyte—matters Performance simply matters. Technology may allow us to “go bigger”, but maybe not necessarily be better when it comes to performance. Servers and Internet connections are getting more sophisticated, and as a result, we feel the need to keep filling them.
mplayer安装过程与拾遗
08-10
《mplayer安装过程与拾遗》 MPlayer是一款强大的跨平台多媒体播放器，深受软件开发者和普通用户喜爱。本文将详细介绍MPlayer的安装步骤，并针对初学者可能遇到的问题进行解析和解答。 首先，安装MPlayer涉及到四个...
CSS拾遗之箭头,目录,图标的实现代码
12-13
1. CSS拾遗之图标 图标有三种制作方法： 图片 css(小箭头用CSS搞定) 自己画font(fontawsome插件) fontawsome插件下载之后，解压，新版的与老版不一样。 2. html文件的目录结构 xxx project - app - s1.html -...
深度学习论文 Learning representations by back-propagating errors
qq_43235540的博客
03-17 2991
Learning representations by back-propagating errors 小白读论文
＜2＞ BP(Backprop) Algorithm 原文解读
weixin_42432619的博客
02-25 863
原文：Learning representations by back-propagating errors, 1986 作者：David E. Rumelhart*, Geoffrey E. Hintont & Ronald J. Williams* 1.目标： 使得网络的输出尽可能地接近理想的输出，因此需要调整代表着特征表示的隐藏节点的权重。但是，对于特定的任务哪些隐藏节点所表示的特征才是所希望的很难直接了解。为了在端对端中实现自动的特征选择，因此提出了BP算法。 2.算...
Paper：机器学习、深度学习常用的国内/国外引用(References)论文参考文献集合(建议收藏，持续更新)
热门推荐
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
07-22 4万+
Paper：机器学习、深度学习常用的外文引用References参考文献集合(建议收藏，持续更新) References 1、国外格式 [1]D. E. Rumelhart, G. E. Hinton, and R. J. Williams, “Learning representations by back-propagating errors,” Nature,...
some understandings about 《Learning representations by back-propagating errors》
微电子学与固体电子学-俞驰
01-10 569
Dear Professor Ronald J. Williams: From <Learning representations by back-propagating errors> the Fig.3 is as follows: I re-draw the above description with orange lines。 Is the following pict...
SpringBoot自动配置原理.docx
最新发布
11-14
SpringBoot的自动配置原理是其成功的关键之一，它让开发者摆脱了繁琐的配置工作，让项目能够以零配置的方式快速启动。在SSM整合的时候，配置问题是一个让人头疼的难题，需要不断地排除扫描、添加新的配置，让整个...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值