文本分类模型_文本分类中的经典深度学习模型

众所周知,文本分类是NLP领域中十分基础的任务,大部分文本分类模型稍加修改就可以应用到其他任务中。下面介绍几个经典的文本分类模型。

6959e8662862764ceb61bea37556e209.png

图中被引数来源google学术(2019/5/16)

1. textCNN


作为一个经典的神经网络模型,CNN具有极强的特征提取能力,而且运行速度比RNNs要快的多。当CNN在计算机视觉领域取得巨大成功之后,人们自然想到如何将CNN应用到自然语言处理任务中。然而,其关键问题便是如何选择卷积核的尺寸、如何解释卷积核在NLP任务中的意义。

textCNN[1]采用的卷积核大小为 d88bbf6a-1f45-eb11-8da9-e4434bdf6706.svg ,其中 da8bbf6a-1f45-eb11-8da9-e4434bdf6706.svg 是词向量的维度, dc8bbf6a-1f45-eb11-8da9-e4434bdf6706.svg 作为超参数由人工选择。作者认为这样可以捕捉句子中的n-grams,即如果选择的卷积核分别为 dd8bbf6a-1f45-eb11-8da9-e4434bdf6706.svgde8bbf6a-1f45-eb11-8da9-e4434bdf6706.svgdf8bbf6a-1f45-eb11-8da9-e4434bdf6706.svg 就表示捕捉了句子中的1-gram、2-gram、3-gram。接着通过一个max-pooling层,捕捉其中最重要的特征,同时还可以解决句子长度不一的问题。

9f3c31f37a56f23f97d31454bb319934.png

textCNN的结构

作为一个14年提出的模型,textCNN简单有效,十分强大。

2. DCNN


DCNN[2](Dynami

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值