深度学习
不吐桔子皮
这个作者很懒,什么都没留下…
展开
-
论文笔记:(字符级卷积用于文本分类)《Character-level Convolutional Networks for Text Classification》
1.论文背景在这篇论文之前,几乎所有的文本分类技术都是基于单词的,在这篇论文中,作者把字符级的文本当做原始的信号输入。这篇论文,仅仅使用字符,运用在卷积神经网络上。作者发现,当训练大规模数据集的时候,深度卷积神经网络并不需要单词层面的意义(包括语言的语法和语义)。这是非常激动人心的工程简化,因为不管什么语言,它都是由字符组成的,因此这对于构建跨语言的系统至关重要。还有一个好处,对于异常的字符组成(比如拼写错误)和表情符,该模型依然能够应付。2.论文动机以字符作为输入和以词作为输入相比,词向量的维度更原创 2020-06-08 09:59:31 · 807 阅读 · 1 评论 -
深度学习模型之LSTM(都能理解的LSTM原理详解)
一、循环神经网络(Recurrent Neural Network,RNN)循环神经网络(Recurrent Neural Network,RNN)相比一般的神经网络来说,他能够处理序列变化的数据。比如某个单词的意思会因为上文提到的内容不同而有不同的含义,那么RNN就能解决这类问题。来看一个简单的例子,对于RNN来说,对于输入的一句话,它的每一个单词输入完已有会存到一个记忆单元里面(图中蓝色的方框)参与下一个单词的输入,需要注意的是这是同一个神经网络,只不过是在三个不同的时间点被使用了三次。(注:以下图原创 2020-06-09 17:31:56 · 10145 阅读 · 0 评论