利用lstm模型实现短文本主题相似——qjzcy的博客

利用lstm模型实现短文本主题相似——qjzcy的博客

目录：
一、Rnn模型结构
二、LSTM模型的Topic应用方法
三、实验结果对比

---

一、Rnn模型结构：

这里是rnn模型的一个结构图，如图1

图1
Rnn网络能够把之前输入的信息往后传播，合适处理时序的数据，或者需要结合前后信息的数据。
Lstm是rnn的一个升级版本，本质上能更好的保存之前多级输入样本的特征

二、LSTM模型的Topic应用方法
所以我们这么想能不能通过lstm模型把不同主题的特征融合在一起呢，如图2左边，我们把短文本组合的句子，每个词按主题展开，然后输入到LSTM模型中。正常情况下我们的输入是按w的正常序列输入到模型中间。但是我们横过来输入，那么每次输入lstm模型的就是一个个主题，这样我们通过lstm模型就把不同主题下两个短文本相似的分类融合在了一起。

图2
三、实验结果

使用Topic模式与正常模式的结果对比

图3

图4