左脚能拉小提琴-CSDN博客

原创 [NLP论文阅读] A STRUCTURED SELF-ATTENTIVE SENTENCE EMBEDDING

这篇文章提出了使用self-attention技术来生成可解释句子向量的模型。通常我们使用向量(vector)来表示单词、短语或者句子向量，在这篇文章中，作者提出可以使用二维句子来表示句子，矩阵的每一行表示句子的不同部分。

2017-10-25 17:58:43 9177 6

原创 [NLP论文阅读] The Fixed-Size Ordinally-Forgetting Encoding Method for Neural Network Language Models

这篇文章提出了一种学习不定长序列表示的方法，并将该方法用于前反馈神经网络的语言模型(feedforward neural network language models, FNN-LMs)，得到了不错的实验数据。

2017-10-18 14:05:43 1024

原创 [NLP论文阅读] Word Embedding based on Fixed-Size Ordinally Forgetting Encoding

EMNLP刚刚结束，在浏览accepted paper后，选择了几篇作为近期的论文阅读。之前一直看的都是句子建模的文章，这次换了换口味，看看词向量建模的最近工作。

2017-10-16 18:25:28 972

原创 [NLP论文阅读] Learning Paraphrastic Sentence Embeddings from Back-Translated Bitext

这篇文章的目的是学习句子表示，在产生模型的训练集时作者所采用的方法很有意思，作者利用训练好的机器翻译模型将原数据集中非英语的句子翻译成英语，从而和原数据集的英语句子组成意义相近的句子对，得到大量的训练数据，通过这些训练数据训练学习句子表示的模型。

2017-10-11 17:28:55 1047

原创 [NLP论文阅读] Supervised Learning of Universal Sentence Representations from NLI data

这篇文章感觉上我上一篇博客中阅读的论文在想法上有相似的地方，想法都是你要达到目标，你必须先会点别的。http://write.blog.csdn.net/mdeditor#

2017-09-15 16:11:32 3570

原创 [NLP论文阅读] Discourse-Based Objectives for Fast Unsupervised Sentence Representation Learning

这篇文章的想法很有意思，为了学习到更好的句子表示，作者没有去设计新的模型来学习句子表示，而是设计了3个预训练目标来预训练已有的句子编码器（Sentence encoder），当模型经过这3个预训练后在针对目标任务进行训练。

2017-09-14 16:13:29 1138 1

原创 [NLP论文阅读]Learned in Translation: Contextualized Word Vectors

上下文相关词向量的一个新模型。

2017-08-23 16:08:52 4626 1

原创 [NLP论文阅读]Siamese CBOW: OptimizingWord Embeddings for Sentence Representations

前段时间看了一篇Siamese LSTM（孪生LSTM）用于生产句子表示的论文，这次又看到了这一篇文章，感觉也很有意思，这篇文章是借鉴了CBOW模型的想法提出了Siamese CBOW模型，并且取得了不错的效果。

2017-06-22 22:30:23 2573

原创 [NLP论文阅读]A simple but tough-to-beat baseline for sentence embedding

在神经网络泛滥的时候，这篇文章像一股清流，提出了一个无监督的句子建模方法，并且给出了该方法的一些理论解释。通过该方法得到的句子向量，在STS数据集上取得了不输给神经网络的效果。

2017-05-24 15:50:08 11852 19

原创 tf.placeholder()使用中的一些问题

这是除了看视频学习之外，我第一次自己对Tensorflow框架进行实践，确实也遇到了一些比较让人难受的问题，特此记录。

2017-05-24 14:34:25 13635

原创 SiameseLSTM论文阅读及其Tensorflow实现

原文作者主要为针对短语/句子/序列的相似性比较提出了一种评价模型——Siamese LSTM（孪生网络）。该模型是输入为句子对，输出为输入句子对的相似性得分（得分为1-5）。该模型在SemEval 2014数据集上取得了state-of-art的结果。

2017-05-24 13:49:34 14238 13

原创 [NLP论文阅读]A Neural Knowledge Language Model（一）

通过将语言模型与知识图谱相结合在一定程度上解决了unknown word的问题。

2017-04-27 17:39:59 1620

原创 [NLP论文阅读]LightRNN: Memory and Computation-Efficient Recurrent Neural Networks

这是对LightRNN模型论文的笔记，本文中创新的将词表示从一维向量变成了由行列向量组成的矩阵，同时由于用一行/列的单词会共享行/列向量，这大大减少了对空间的要求，很有启发。

2017-04-25 16:40:42 754

原创 [NLP论文阅读]Distributed Representations of Sentences and Documents

句子、文档的分布式表示论文阅读

2017-04-09 15:54:57 2158

原创几篇神经网络训练语言模型文章的阅读

本文主要对这几周读的几篇关于使用神经网络构建语言模型的论文进行总结。

2017-03-29 17:09:05 10897

原创我的linux菜鸟之路3

文件和目录管理的一些命令的简介。

2016-07-20 15:02:08 309

原创解决VMware下centOS 7无法访问网络的问题经过

解决虚拟中centos7不能访问网络的问题

2016-07-19 10:59:00 2165

原创我的linux菜鸟之路2

文件权限修改所有者用户组修改命令的基本知识

2016-07-18 18:04:45 299

原创我的Linux菜鸟之路1

linux初体验

2016-07-17 09:44:37 353

jx00109的博客