原文:Semantic Question Matching with Deep Learning
作者:Lili Jiang, Shuo Chang, and Nikhil Dandekar
编译:赵屹华
欢迎人工智能领域技术投稿、约稿、给文章纠错,请发送邮件至[email protected]
Quora作为一个高质量的知识平台,需要确保相同的问题不会多次出现。答题者不应该把相同的答案复制粘贴到类似的问题下方,而读者也应该只能在站内找到唯一的问题与他的需求对应。例如,“减体重的最佳方法是什么?”,“如何才能减肥?”,“最有效的减肥计划是什么?”,通常这些问题都会被人们认为是重复提问,因为这些问题的意图都相同。为了避免出现类似的问题,Quora的工程师们利用机器学习和自然语言处理技术,开发了一套自动识别重复问题的系统。
最近,Quora的工程师们公开了一个重复问题的数据集,供爱好者们训练模型,来解决类似于Quora重复提问检测的任务。在此篇文章中,笔者会介绍Quora工程师在过去几周内将这份数据集与深度学习技术相结合,做了哪些探索性的研究。
问题定义
严格来说,重复检测的问题可以定义为这类形式