![](https://img-blog.csdnimg.cn/20201014180756926.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
文章平均质量分 85
MirrorN
知来者之可追
展开
-
RNN 、LSTM、 GRU、Bi-LSTM 等常见循环网络结构以及其Pytorch实现
这篇文章主要是对之前一段时间里接触到的 循环神经网络 的相关知识进行一些总结,包括个人觉得初学难理解或者需要注意的问题和如何使用Pytorch的相关函数。由于这些经典结构网上资料很多,所以一些通识不再陈述,偏重代码部分。文章目录1.RNN2.LSTM3. GRU4. Multi-Layers-LSTM4. Bi-LSTM5.参考1.RNN很多问题都归结于序列信息的处理,例如 speech r...原创 2020-03-19 00:18:47 · 8756 阅读 · 1 评论 -
论文笔记:Recurrent Neural Network Grammars
1.简介“Recurrent Neural Network Grammars” 发表与NAACL 2016,这篇论文中提出了 RNNG 模型,在之后也有很多工作基于此,像URNNG(Unsupervised RNNG)和融合RNNG的NMT等。论文中首先介绍了RNNG的判别模型,然后进行了改动,定义了生成模型,然后又介绍了RNNG作为语言模型的效果。2.定义基础RNNG来源于统计自然语言处...原创 2020-01-06 21:02:10 · 1092 阅读 · 1 评论 -
论文笔记:Tree-LSTM结构的三篇论文总结
对于序列数据而言,从最早的 RNN 结构单元,后来衍生出了 LSTM 以及 GRU 等等变种,这些变种单元的功能更好,并且有效解决了RNN的梯度消失/爆炸问题。对于树结构信息来说也是如此,2015年,三篇论文同时期提出了 Tree-LSTM 的结构,分别是:Compositional Distributional Semantics with Long Short Term Memory(Ph...原创 2020-01-06 17:08:16 · 7782 阅读 · 0 评论 -
论文笔记:Recursive Deep Models for Semantic Compositionality Over a Sentiment Treebank 递归神经网络总结
“Recursive Deep Models for Semantic Compositionality Over Sentiment Treebank”这篇论文发表于 EMNLP 2013,主要作者是 Richard Socher,非常响当当的人物,在NLP方向的论文中,经常可以看到这个名字, Socher的在2010-2015年间的很多工作都与递归神经网络有关,Recursive Neura...原创 2020-01-05 23:23:54 · 1108 阅读 · 0 评论 -
关于CIFAR-10图像分类总结
之前一段时间学习深度学习在CIFAR-10数据集上图像分类问题,在此做一点点总结,关于这个问题,网络上已经有很多优秀的资源了,因此,主要是汇总一些博客等资料。关于图像分类算法的总结很多网站都转载了这篇文章,文章比较了五种图像分类算法,传统机器学习以及深度学习的方法都有涉及,了解图像分类可以看一看原文:Image Classification in 5 Methods翻译等可见:图像分类 |...原创 2019-05-08 08:51:19 · 10666 阅读 · 1 评论 -
卷积神经网络记录(一)基础知识整理
卷积神经网络记录最近一段时间在学习卷积神经网络的知识,看了很多博客和资料之后,决定自己写一篇记录一下学习地知识,巩固一下所学。1.卷积神经网络与全连接神经网络的异同首先来看卷积神经网络之前的网络的异同,两种神经网络结构对比图如下:在结构上,两种网络看起来不同,实际上还是很相似的。两者都是通过一层一层的节点组织起来的,在训练过程上也是基本一致。两种神经网络的的区别就在于相邻两层的不同节点之...原创 2018-11-17 20:23:25 · 30482 阅读 · 13 评论 -
卷积神经网络(二):应用简单卷积网络实现MNIST数字识别
卷积神经网络简单实现MNIST数字识别本篇的主要内容:一个两层卷积层的简单卷积网络的TensorFlow的实现网络的结构在这张图里,我把每一层的输入以及输出的结构都标注了,结合阅读代码食用效果更佳。具体代码具体的内容,都写在相应位置的注释中了,可能一下子全部代码都贴出来不太好看,所以我非常贴心的分成了好几个部分:导入包import tensorflow as tffrom ...原创 2018-11-20 16:23:09 · 1172 阅读 · 1 评论 -
tf.nn.conv2d()函数以及padding填充方式介绍
tf.nn.conv2d()函数中填充方式的理解本篇的主要内容:tf.nn.conv2d()函数tf.nn.conv2d()函数中padding的SAME填充方式tf.nn.conv2d()函数tf.nn.conv2d()是TensorFlow中用于创建卷积层的函数,这个函数的调用格式如下:def conv2d(input: Any, filter: Any,...原创 2018-11-20 15:44:21 · 8840 阅读 · 7 评论