TextRCNN-文本分类系列(三)

本文介绍了TextRCNN模型的架构,它结合词嵌入和上下文信息,通过前向和后向RNN获取新的词嵌入。在TensorFlow中,使用RNN代替TextCNN进行特征提取,将中间层输出作为特征,形成一种结合上下文的词嵌入方法。
摘要由CSDN通过智能技术生成

什么是TextRCNN

如下图所示,就是TEXTRCNN的架构。
简而言之就是在词嵌入的基础上加上了上下文环境作为新的词嵌入表示。
而左侧和右侧的context是通过前向和后向两层RNN的中间层输出得到的。
这些中间层的输出和原始的词嵌入拼接形成新的词嵌入y。然后送入池化层。

给人一种词嵌入的感觉,结合上下文的词嵌入的感觉。

本意是通过RNN取代TextCNN的特征提取,因为卷积的作用是提取特征,这里用RNN的中间层输出来表示所谓的特征,所以叫做RCNN。
看下表中题目叫做Recurrent =>(convolutional)
在这里插入图片描述

tf 实现

    def design_model(self,hiden_size=32,with_fc=False):
        input_layer=L.Input(shape=(
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值