Learning to Rank Short Text Pairs with Convolutional Deep Neural Networks（阅读理解）

最新推荐文章于 2021-04-10 15:52:22 发布
最新推荐文章于 2021-04-10 15:52:22 发布
阅读量1.7k 收藏 1
点赞数
分类专栏： 文本相似度 文章标签： CNN Text Rank
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u014029197/article/details/80347130
版权

本文重点：

和一般形式的文本处理方式一样，并没有特别大的差异，文章的重点在于提出了一个相似度矩阵


计算过程介绍：

query和document中的首先通过word embedding处理后获得对应的表示矩阵

利用CNN网络进行处理获得各自的feature map，接着pooling后获得query对应的向量表示Xq和document的向量Xd

不同于传统的Siamense网络在这一步利用欧式距离或余弦距离直接对Xq和Xd进行相似性计算后预测结果，网络采用一个相似矩阵来计算Xq和Xd的相似度，然后将Xd，Xq和sim(Xq,Xd)进行连接，并添加了word overlap和IDF word overlap的特征后作为特征向量输入一个神经网络层

神经网络层的输出经过一个全连接层，利用softmax函数得出预测结果

发发fjfj
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Learning To Rank 理解
Talk Is Cheap
05-03 1142
设想自己从First Principle来设计一个搜索排序的（深度学习）模型，核心还是在于有个模型能给当前query和每个候选doc的匹配程度打分，也就是核心是两个 句子/文档 的匹配程度的打分模型， 那么我需要有个模型，给一个query，和一堆要排序的doc，就可以给每个doc都打一个和query匹配程度的分值，然后按高到低排序， 这时，可以一个doc一个doc的打分，也就是每次输入模型一个...
Deep Neural Network for Learning to Rank Query-Text Pairs阅读笔记
BeccaYe的博客
08-05 1016
Deep Neural Network for Learning to Rank Query-Text Pairs论文 读书笔记）论文概要Learning to Rank Short Text Pairs with Convolutional Deep Neural Networks概要该方法的缺点ConvRankNetSiamese CNN encoderRankNet实验结果参考文献： 论文概...
【IJCAI-2017】KPCNN: 将知识与深度卷积神经网络相结合用于短文本分类
qq_36291847的博客
04-10 1717
文章目录摘要1 引言2 相关工作3 模型设计4 评价5 结论 论文链接:Combining Knowledge with Deep Convolutional Neural Networks for Short Text Classification 作者： 来源：IJCAI-17 摘要 文本分类是自然语言处理应用中的一项基本任务。现有的大多数工作都依赖于显式或隐式文本表示来解决这个问题。虽然这些技巧适用于句子，但由于短小精悍，它们不太容易应用于短文。在本文中，我们提出了一个基于卷积神经网络的框架，结合短文
DeepRank Learning to rank with neural networks for recommendation.pdf
01-31
DeepRank Learning to rank with neural networks for recommendation.pdf
Deep learning with convolutional neural networks for brain mapping
05-22
Deep learning with convolutional neural networks for brain mapping and decoding of movement-related information from the human EEG
Learning to rank for blind image quality
06-24
The proposed BIQA method is one of learning to rank. We first formulate the problem of learning the mapping from the image features to the preference label as one of classification. In particular, we...
Introduction to Machine Learning with Applications in Information Security-2018
04-16
Introduction to Machine Learning with Applications in Information Security-CRC(2018).epub For the past several years, I’ve been teaching a class on “Topics in Information Security.” Each time I ...
Your Relevance Feedback Is Essential: Enhancing the Learning to Rank Using the Virtual Feature Based Logistic Regression
02-21
Information retrieval applications have to publish their output in the form of ranked lists. Such a requirement motivates researchers to develop methods that can automatically learn effective ranking ...
ICCV2013-Hybrid Deep Learning for Face Verification
05-21
pairs with a hybrid deep network. The deep ConvNets in our model mimic the primary visual cortex to jointly extract local relational visual features from two face images compared with the learned ...
SuperGluePretrainedNetwork：SuperGlue：与图神经网络匹配的学习功能（CVPR 2020，口腔）
02-05
研究@ Magic Leap（CVPR 2020，口腔）SuperGlue推理和评估演示脚本介绍SuperGlue是在Magic Leap完成的2020 CVPR研究项目。 SuperGlue网络是一个图形神经网络，结合了最佳匹配层，该层经过训练可以对两组稀疏图像特征...
Deep Learning and Convolutional Neural Networks for Medical Image Computing
08-11
Deep Learning and Convolutional Neural Networks for Medical Image Computing: Precision Medicine, High Performance and Large-Scale Datasets (Advances in Computer Vision and Pattern Recognition) by Le Lu, Yefeng Zheng, Gustavo Carneiro, Lin Yang 2017 | ISBN: 3319429981 | English | 326 pages | PDF | 14 MB This book presents a detailed review of the state of the art in deep learning approaches for semantic object detection and segmentation in medical image computing, and large-scale radiology database mining. A particular focus is placed on the application of convolutional neural networks, with the theory supported by practical examples. Features: highlights how the use of deep neural networks can address new questions and protocols, as well as improve upon existing challenges in medical image computing; discusses the insightful research experience of Dr. Ronald M. Summers; presents a comprehensive review of the latest research and literature; describes a range of different methods that make use of deep learning for object or landmark detection tasks in 2D and 3D medical imaging; examines a varied selection of techniques for semantic segmentation using deep learning principles in medical imaging; introduces a novel approach to interleaved text and image deep mining on a large-scale radiology image database.
Imagenet classification with deep convolutional neural networks
x251140的博客
07-12 834
alexnet:2012,共包含8层(不算input层)，其中前5层是cnn，后面3层是全连接的网络。它有60M以上的参数总量。虚线是分开的或者交叉的，说明之后的map是由前面独立或者联合得到的。LRN层，做的事是对当前层的输出结果做平滑处理。 data augmentation： 对训练数据进行左右对称以及平移变换，将训练数据增加为原来的2048倍；对像素进行PCA变换构
Convolutional Neural Networks for Sentence Classification（阅读理解）
u014029197的博客
05-17 434
1原理图2介绍在原文中，用了6个卷积核对原词向量矩阵进行卷积，如上图所示；然后进行池化，对相同卷积核产生的特征图进行连接；再进行softmax输出2个类别。核心点在于可以捕捉局部相关性，具体到文本分类任务中可以利用CNN来提取句子中类似 n-gram 的关键信息。TextCNN详细过程：第一层是图中最左边的7乘5的句子矩阵，每行是词向量，维度=5，这个可以类比为图像中的原始像素点了。然后经过有 f...
lucene 按照匹配度排序_NLP.TM[15] | 基于卷积神经网络的短文本相似度模型
weixin_39959236的博客
11-24 398
导读：大家好，我是机智的叉烧，这是我NLP.TM系列下的第15篇文章(部分文章还未更新到知乎中，微信公众号下还有)，文本相似度是NLP下一个重要的问题，在搜索、问答等方面都有很丰富的应用，这次来借助一篇论文来讨论一种使用监督方式的文本相似度分析方法。更多文章欢迎关注：我的专栏：数学·数据·计算机我的公众号：CS的陋室今天和大家分享一篇有关文本相似度的经典文章。Severyn A , Moschit...
基于深度学习的智能问答
weixin_33785972的博客
08-03 1664
作者：周小强 陈清财 曾华军 1引言 纵观自动问答系统的技术发展历史，从1950年代因图灵测试而诞生至今，已经有几十年的历史。但真正在产业界得到大家的广泛关注，则得益于2011年Siri和Watson成功所带来的示范效应。自此，自动问答系统较以往任何时候都显得离实际应用更近。这一方面归功于机器学习与自然语言处理技术的长足进步，另一方面得益于维基百科等大...
learning to rank学习笔记
love_data_scientist的博客
09-29 377
learning to rank是这几年火起来的一个学科，可以应用于检索、推荐等排序场景中。我们的业务场景大都和排序相关，那么掌握住learning to rank就又多了一条解决业务问题的方法。 常见的排序算法： 1.文本相关性计算方法：BM25，TF_IDF，word2vec等。 2.图像相似度计算方法：平均哈希（aHash），感知哈希（pHash），差异值哈希。 3.图文相关性使用g...
几篇论文
guojingjuan的博客
09-29 491
来自微信公众号paperweekly，里面集中在文本方向。 1.Learning to Rank Short Text Pairs with Convolutional Deep Neural Networks 这是一篇相当经典的 Siamese 网络模型，类似架构可以通过改变左右两边的网络结构而适用于各种 task。 如果把右侧网络输入换成 Label，则可以用于实现http://
Learning to Rank 笔记
joshuajinxiaoshuai的博客
09-25 285
最近公司业务需要，作了很少的研究。对于一类问题，尤其是模型问题，我觉得最重要是要明白input, model和output. 看了这篇觉得这个日本小哥讲的很好https://mlexplained.com/2019/05/27/learning-to-rank-explained-with-code/ 最开始LTR用在信息检索，就是根据搜索词找出搜索内容，并且order要最好，就是用户最有可能需要...
LSF-SCNN：一种基于CNN的短文本表达模型及相似度计算的全新优化模型
weixin_33769207的博客
08-03 539
本篇文章是我在读期间，对自然语言处理中的文本相似度问题研究取得的一点小成果。如果你对自然语言处理 (natural language processing, NLP) 和卷积神经网络（convolutional neural network, CNN）有一定的了解，可以直接看摘要和LSF-SCNN创新与技术实现部分。如果能启发灵感，应用于更多的现实场景中...
COCOACollaborative Convolutional Metric Learning
最新发布
04-04
COCOA (Collaborative Convolutional Metric Learning) is a deep learning method for metric learning that aims to learn a similarity metric between pairs of images. It is designed for image retrieval ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值