2018年06月_gentelyang

原创 Effective Approaches to Attention-based Neural Machine Translation之每日一篇

论文地址：http://www.cs.cmu.edu/~ark/EMNLP-2015/proceedings/EMNLP/pdf/EMNLP166.pdf概述：本文针对NMT任务是用attention机制提出两种结构，global attention将attention作用于全部输入序列，local attention每个时间步将attention作用于输入序列的不同子集。前者被称为soft at...

2018-06-29 16:06:51 448

原创 Learning Phrase Representations using RNN Encoder–Decoder for Statistical Machine Translation之每日一篇

真正提出 Seq2Seq 的文章是《Sequence to Sequence Learning with Neural Networks》，但本篇《Learning Phrase Representations using RNN Encoder–Decoder for Statistical Machine Translation》比前者更早使用了 Seq2Seq 模型来解决机器翻译的问题。摘要...

2018-06-29 09:40:02 6862

原创短文本分类的 ResLCNN 模型

收稿时间: 2017-06-30; 采用时间: 2017-10-20Journal of Software在 He 等人研究中,34 层的 CNN 比 18 层的 CNN 效果差.同样,在 Donahue 等人研究中也提到,双层的 LSTM 模型效果是最好的,多层的 LSTM 效果出现退化现象.为解决此退化问题,He 等人[8]提出了残差网络.受此启发,为了提高模型性能。ResLCNN模型以wor...

2018-06-28 11:34:16 3475 1

原创 Very Deep Convolutional Networks for Text Classification之每日一篇

一：介绍这篇文章是2017.1月发表，在这篇文章出现之前，卷积神经网络进行文本分类都是用的很浅层的CNN，基本是一个词嵌入层、一个卷积一个池化然后两个全连接层，文章利用了29个卷积层，提升文本分类的准去率。这篇文章是首创式的用将深度较深的CNN应用在NLP中。二：VDCNN结构模型介绍：此模型由8个卷积层block，3个最大池化层，一个k-max pooling 和3个全连接层组成。卷积层的通道数...

2018-06-28 10:28:02 2634

原创 Character-level Convolutional Networks for Text Classification之每日一篇

这篇文章发表于2016.04，作者还发表了一篇Text Unders tanding from Scratch的论文，有兴趣的可以去看看。1：Character quantization构建字母表，包含70种字符。The alphabet used in all of our models consists of 70 characters, including 26 english letter...

2018-06-27 19:58:41 2543 1

原创 A Sensitivity Analysis of Convolutional Neural Networks for Sentence Classification之每日一篇

论文Convolutional neural networks for sentence classification，这篇文章已经介绍过了，它介绍了如何使用CNN做句子分类（文本分类）；而本文主要介绍了用CNN做句子分类的时的一些经验，如何调节超参。超参数包括：词向量，Region size大小，feature map的数量，激活函，pooling，正则化的影响。模型图：词向量：词向量的表示形式...

2018-06-27 15:29:18 371

转载文本分类之深度学习应用总结

总览本教程分为五个部分，分别是：词嵌入（Word Embeddings） + 卷积神经网络（CNN，Convolutional Neural Network） = 文本分类使用一个单层 CNN 架构调整 CNN 超参数考虑字符级的 CNN考虑用更深层的 CNN 进行分类1.词嵌入 + CNN = 文本分类文本分类的操作方法包括：使用词嵌入来表示单词，使用卷积神经网络（CNN）来学习如何辨别分类问题...

2018-06-27 14:46:57 3476

原创 Convolutional Neural Networks for Sentence Classification之每日一篇

本文很久以前就读过，现在再学习一下。文章链接：http://blog.csdn.net/rxt2012kc/article/details/73739756github连接：https://github.com/rxt2012kc/cnn-text-classification-tf （论文原文github实现） https://github.com/gent...

2018-06-27 11:44:16 2123

原创 A Convolutional Neural Network for Modelling Sentences之每日一篇

1.介绍这篇论文介绍了一种DCNN对句子语义建模，模型采用动态K-max pooling取出得分top k的特征值，这里区别一下与max pooling 的区别，能处理不同的句子，不依赖解析树，而word2vec是依赖与huffman树的，词向量方法进行文本分类是依赖解析树的。2.模型的特点1 保留了句子中词序信息和词语之间的相对位置；2 宽卷积的结果是传统卷积的一个扩展，某种意义上，也是n-gr...

2018-06-26 10:25:13 3890 1

原创位运算java

https://www.jianshu.com/p/b677858bc085

2018-06-20 18:22:49 167

原创 KMP算法和BM算法

https://www.cnblogs.com/yjiyjige/p/3263858.html

2018-06-06 20:37:53 2235

原创红黑树算法总结

http://www.cnblogs.com/skywang12345/p/3245399.html看这篇博客

2018-06-06 15:10:08 159

原创 Union find算法总结

最近比较忙，就不怎么整理了，看这三个博客+算法课本1.5https://blog.csdn.net/zjkC050818/article/details/62419111https://blog.csdn.net/dm_vincent/article/details/7655764https://blog.csdn.net/dm_vincent/article/details/7769159...

2018-06-06 14:40:11 373

gentelyang的博客