Convolutional Neural Network Architectures for Matching Natural Language Sentences（阅读理解）

最新推荐文章于 2019-09-04 14:10:10 发布
最新推荐文章于 2019-09-04 14:10:10 发布
阅读量2k 收藏 4
点赞数
分类专栏： 文本相似度 文章标签： CNN Text
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u014029197/article/details/80347648
版权


以上图片是作者提供的一个最基本的并且通用的文本分类模型，文章后面介绍的内容是以此结构进行展开的

作者提出卷积神经网络模型来匹配两个句子，该模型不仅能够很好地表示句子的层次结构，而且能够逐层构图和合并，而且能够在不同层次捕捉到丰富的匹配模式


作者首先基于上一个模型提出了一个用于比较两个句子相似度的模型，这个模型的缺点在于将两个句子encode成句向量之后再用多层感知机进行分类，这种方法就很明显没有体现出句子之间的交互操作

根据缺少交互这一问题，作者改进了新的模型，将1-D卷积操作通过变换修改成和两个句子的相关的feature map，如下图所示


本文重点

这篇文章的核心点在于Layer-1 （1D convolution）

首先从Sentence x中任取一个向量xa，再从Sentence y中将每一个向量和xa进行卷积操作

同理以上操作，将两个句子中所有的向量两两组合，构成2D向量

后续的操作和一般的卷积操作没有太多区别

发发fjfj
关注
  • 0
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
A convolutional neural network for modelling sentences论文及翻译
11-24
《A convolutional neural network for modelling sentences》这篇论文是自然语言处理（NLP）领域的一份重要文献，主要探讨了如何利用卷积神经网络（Convolutional Neural Network, CNN）来理解和建模句子结构。...
A Convolutional Neural Network Cascade for Face Detection
12-14
A Convolutional Neural Network Cascade for Face Detection
《Convolutional Neural Network Architectures for Matching Natural Language Sentences》句子匹配
anqiu4023的博客
05-26 438
模型结构与原理 1. 基于CNN的句子建模 这篇论文主要针对的是句子匹配(Sentence Matching)的问题，但是基础问题仍然是句子建模。首先，文中提出了一种基于CNN的句子建模网络，如下图： 图中灰色的部分表示对于长度较短的句子，其后面不足的部分填充的全是0值(Zero Padding)。可以看出，模型解决不同长度句子输入的方法是规定一个最大的可输入句子长度，然后长度...
Convolutional Neural Network Architectures for Matching Natural Language Sentences
weixin_30648587的博客
10-21 120
interactionn.互动;一起活动;合作;互相影响 capturevt.俘获;夺取;夺得;引起（注意、想像、兴趣）n.捕获;占领;捕获物;[计算机]捕捉 henceadv.从此;因此，所以;从此处 empiricaladj.经验主义的;凭经验的;以观察或实验为依据的 varietyn.多样;种类;杂耍;变化，多样化 efficacyn.功效;效力;效验;...
Convolutional Neural Network Architectures for Matching Natural Language Sentences论文笔记
Suan2014的博客
09-04 1252
发表时间：2015年 论文链接：https://arxiv.org/abs/1503.03244v1 代码链接：http://nlp.stanford.edu/˜socherr/classifyParaphrases.zip 代码语言：matlab 摘要 较好的匹配算法能够同时为句子内部结构和句子间的交互信息建模。本文提出的模型通过逐层构图和合并充分表达句子的层次信息，而且能够在不同的层次捕捉...
卷积神经网络(CNN)在句子建模上的应用
MemRay
05-19 3万+
转载自：http://www.jeyzhang.com/cnn-apply-on-modelling-sentence.html 之前的博文已经介绍了CNN的基本原理，本文将大概总结一下最近CNN在NLP中的句子建模（或者句子表示）方面的应用情况，主要阅读了以下的文献： Kim Y. Convolutional neural networks for sentence classifi
论文笔记《Convolutional Neural Networks for Sentence Classification》
xum2008的专栏
02-12 4172
CNN+word2vec
A Novel Convolutional Neural Network for Facial Expression Recognition
02-06
A Novel Convolutional Neural Network for Facial Expression Recognition
Shape driven kernel adaptation in Convolutional Neural Network for robust facial trait recognition
02-11
Shape driven kernel adaptation in Convolutional Neural Network for robust facial trait recognition
Convolutional Neural Network With Second-Order Pooling for Underwater Target Classification
02-08
Convolutional Neural Network With Second-Order Pooling for Underwater Target Classification
sentence pair model 总结
guoyuhaoaaa的博客
11-11 4561
这篇博客主要参考了来自nips的《Convolutional Neural Network Architectures for Matching Natural Language Sentences》这篇论文（李航老师）。 match language model 解决的是两句话的match问题。这个问题有很广泛的应用场景，比方说自动问答系统、句子翻译等。（个人感觉在真正使用的时候，该模型起到了一
神经网络 和 NLP —— 语言模型和词向量
TangowL
03-12 4198
前段时间一口气读完了 NN4NLP，很是畅快，非常喜欢作者行文讲解的口吻和逻辑。大概两周读完，每页都有收获，读完后反而担心有所疏漏，知识太多留不住，索性从头来一遍，把学习过程的知识点和思考记录下来，也算精简版供自己今后查阅。 感兴趣的，可以一起学习讨论，真的很推荐这本书。 大致介绍下该书。NN4NLP 由 Goldberg 撰写，是 CMU CS11-747 课程的教材，配合公开课食用更佳，公...
多通道(比如RGB三通道)卷积过程
热门推荐
u014114990的专栏
04-11 10万+
今天一个同学问 卷积过程好像是对 一个通道的图像进行卷积， 比如10个卷积核，得到10个feature map， 那么输入图像为RGB三个通道呢，输出就为 30个feature map 吗， 答案肯定不是的， 输出的个数依然是 卷积核的个数。 可以查看常用模型，比如lenet 手写体，Alex imagenet 模型， 每一层输出feature map 个数 就是该层卷积核的个数。 1、
深度文本匹配开源工具（MatchZoo)
Coding for Dreams
12-10 1万+
博主导言：苦于Deep Learning的baseline太多实现困难？苦于没有好的基于深度学习处理NLP, IR, QA任务的开源工具？苦于没有发布自己研究的深度文本匹配模型的交流平台？强烈推荐MatchZoo，用深度学习做自然语言处理，信息检索，智能问答等任务的小伙伴看过来。MatchZoo提供了基准数据集（TREC MQ系列数据、WiKiQA数据等）进行开发与测试，整合了当前最流行的深度文本
Convolutional neural network
sdulibh的专栏
08-29 1877
Table of Contents: Architecture OverviewConvNet Layers Convolutional LayerPooling LayerNormalization LayerFully-Connected LayerConverting Fully-Connected Layers to Convolutional Layers ConvNet
深度文本匹配在智能客服中的应用
AI科技大本营
10-24 3793
参加2018 AI开发者大会，请点击↑↑↑作者 | 云知声目录一. 深度文本匹配的简介1.文本匹配的价值2.深度文本匹配的优势3.深度文本匹配的发展路线二. 智能客...
基于深度学习的智能问答
weixin_33785972的博客
08-03 1632
作者：周小强 陈清财 曾华军 1引言 纵观自动问答系统的技术发展历史，从1950年代因图灵测试而诞生至今，已经有几十年的历史。但真正在产业界得到大家的广泛关注，则得益于2011年Siri和Watson成功所带来的示范效应。自此，自动问答系统较以往任何时候都显得离实际应用更近。这一方面归功于机器学习与自然语言处理技术的长足进步，另一方面得益于维基百科等大...
理解卷积神经网络CNN中的特征图 feature map
dengheCSDN的博客
09-05 5万+
         一直以来，感觉 feature map 挺晦涩难懂的，今天把初步的一些理解记录下来。参考了斯坦福大学的机器学习公开课和七月算法中的机器学习课。        CNN一个牛逼的地方就在于通过感受野和权值共享减少了神经网络需要训练的参数的个数。总之，卷积网络的核心思想是将：局部感受野、权值共享（或者权值复制）以及时间或空间亚采样这三种结构思想结合起来获得了某种程度的位移、尺度、形变不...
卷积神经网络中feature map的含义
Allenlzcoder的博客
10-23 3万+
卷积神经网络中feature map的含义       在每个卷积层，数据都是以三维形式存在的。你可以把它看成许多个二维图片叠在一起，其中每一个称为一个feature map。在输入层，如果是灰度图片，那就只有一个feature map；如果是彩色图片，一般就是3个feature map（红绿蓝）。层与层之间会有若干个卷积核（kernel），上一层和每个feature map跟每个卷积核做卷积，
A lightweight convolutional neural network for disease detection of fruit leaves
最新发布
04-13
Sure, there are many lightweight convolutional neural networks (CNNs) that can be used for fruit leaf disease detection. One popular option is MobileNet, which can provide good classification accuracy...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值