![](https://img-blog.csdnimg.cn/20201014180756757.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
NLP
小智rando
这个作者很懒,什么都没留下…
展开
-
word2vec使用方法小结
原文:https://blog.csdn.net/qq_19707521/article/details/79169826训练模型利用gensim.models.Word2Vec(sentences)建立词向量模型该构造函数执行了三个步骤:建立一个空的模型对象,遍历一次语料库建立词典,第二次遍历语料库建立神经网络模型可以通过分别执行model=gensim.models.Word2Vec()...转载 2019-08-02 20:37:23 · 595 阅读 · 0 评论 -
embeding的理解
神经网络通过训练得到一个语言模型。首先将原始文本的每个词随机初始化为一个向量,再将每个向量拼接成一个大矩阵,这样词之间都会有相互的联系,作为神经网络的输入层。通过一个隐藏层之后,加上softmax,将y转换为对应的概率值。神经网络简单理解,就是对特征进行高维的映射,使相同的特征聚集在一起,就比如卷积神经网络来说,不同的核函数,就能够在图像上提取到不同的特征,有直线、斜线、边缘等等。例如对于下...原创 2019-08-02 21:54:24 · 591 阅读 · 0 评论 -
RNNCell 源码分析
RNNCellsBasicRNNCell最基本的RNN单元其他的RNN单元也就是__init__ and __call__有些不同大多数RNN函数的工作原理如下:outputs = []cell = RNNCell(hidden_size)for i in range(rnn_steps): output, state = cell(input, state) outpu...原创 2019-08-04 18:20:13 · 326 阅读 · 0 评论 -
RNN源码流程控制
RNN是处理序列数据的模型,上面介绍的Cell只是序列数据中每一步需要计算的内容,所以还需要一个流程控制类从输入数据的第一步开始,计算每一步的Cell,保存返回值并传递给下一步的Cell使用,并且把最终的返回值作为整个RNN模型的返回值返回。当今的RNN从计算方向上分为单向RNN和双向RNN;从层数上分为单层RNN和多层RNN,在TensorFlow中,单向RNN控制类为tf.nn.dynamic...原创 2019-08-04 21:10:03 · 536 阅读 · 0 评论 -
seq2seq+attention=>评论摘要
Summarizing Text with Amazon Reviews数据集:Amazon 500000评论本节内容:数据预处理构建Seq2Seq模型训练网络测试效果seq2seq教程: https://github.com/j-min/tf_tutorial_plus/tree/master/RNN_seq2seq/contrib_seq2seq浏览数据集将少量的含有缺...原创 2019-08-06 14:42:18 · 355 阅读 · 1 评论