深度学习
X晓明X
杭州师范大学
展开
-
深度学习BP算法的推导附加RNN-LSTM的推导
注:1)这篇文章主要参考Alex Graves的博士论文《Supervised Sequence Labelling with Recurrent Neural Networks》 详细介绍其关于BP算法的推导过程。 2)论文没有提到过偏差的处理,不过如果能耐心推导出论文给出的公式,那么这将十分简单。 3)由于是结合语音训练的,最后是softmax出来转载 2016-05-13 16:58:48 · 851 阅读 · 0 评论 -
深度学习与自然语言处理之五:从RNN到LSTM
http://my.csdn.net/malefactor/* 版权声明:可以任意转载,转载时请标明文章原始出处和作者信息 .*/ author: 张俊林 大纲如下:1.RNN2.LSTM3.GRN4.Attention Model转载 2016-05-13 17:09:06 · 656 阅读 · 0 评论 -
DNN、CNN、RNN简析
首先,DNN、CNN、RNN可以一起比较。从广义上来说,NN(或是更美的DNN)确实可以认为包含了CNN、RNN这些具体的变种形式。在实际应用中,所谓的深度神经网络DNN,往往融合了多种已知的结构,包括卷积层或是LSTM单元。但是就题主的意思来看,这里的DNN应该特指全连接的神经元结构,并不包含卷积单元或是时间上的关联。因此,题主一定要将DNN、CNN、RNN等进行对比,也未尝不可。其实,如果转载 2016-05-13 17:26:54 · 2531 阅读 · 0 评论 -
递归神经网络不可思议的有效性
递归神经网络不可思议的有效性 转载自:http://www.csdn.net/article/2015-08-28/2825569递归神经网络(RNNs)有一些不可思议的地方。我仍然记得我训练的第一个用于 图片字幕的递归网络。从花几十分钟训练我的第一个婴儿模型(相当随意挑选的超参数)开始,到训练出能够针对图像给出有意义描述的模型。有些时候,模型对于输出结果质量的简单程度转载 2016-05-17 17:39:39 · 1191 阅读 · 0 评论 -
[译文]用神经网络实现能够自主避让障碍的生物
摘要:这篇文章是我去年看到的一个很有趣的项目,还试着模仿它的代码写一个类似的项目出来,不过一直没有完成。这里把原作者的一篇相关博客翻译过来,说不定有更多的人对此感兴趣。http://www.open-open.com/news/view/903f20这篇文章是我去年看到的一个很有趣的项目,还试着模仿它的代码写一个类似的项目出来,不过一直没有完成。这里把原作者的一篇相关博转载 2016-05-17 17:43:24 · 997 阅读 · 0 评论