使用深度双向LSTM模型构造社区问答系统

最新推荐文章于 2024-05-04 23:14:20 发布
最新推荐文章于 2024-05-04 23:14:20 发布
阅读量3.4w 收藏 40
点赞数 8
分类专栏： 自然语言处理 深度学习 文章标签： 卷积神经网络 RNN cnn 社区问答 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/malefactor/article/details/50669741
版权
本文探讨了如何使用深度双向LSTM模型构建社区问答系统，以解决新问题与历史问题的语义匹配。相较于CNN模型，深度双向LSTM能更好地捕捉句子间长距离依赖，并通过Mean Pooling和SoftMax层实现分类。实验结果显示，单层BLSTM模型与CNN模型1的表现接近，而双层BLSTM模型由于数据规模限制，效果略逊一筹。
摘要由CSDN通过智能技术生成
/* 版权声明：可以任意转载，转载时请标明文章原始出处和作者信息 .*/

                                                     author: 张俊林     


关于社区问答系统的问题背景，我们在之前的“利用卷积神经网络构造社区问答系统”一文里已经说明得很清楚，本文就不再赘述，不清楚背景的读者可自行参照上文，我们这些相关的研发工作主要是为了开发畅捷通“会计家园”交流社区的相关功能。为了保持行文完整，简明叙述形式化描述的问题如下：


假设我们已知问答库如下：



其中，Qi是问答社区中的历史问题，Ai是Qi问题的精华答案；


现有社区用户提出的新问题：Qnew 


我们需要学习映射函数：



意即对于新问题Qnew，我们希望通过学习系统找到社区中已经出现过的语义相同问题Qi，然后将对应的答案Ai推荐给用户。这样就达到了社区信息复用的目的。这个问题其实对于问答社区比如百度知道、知乎等都是存在的，解决问题的思路也完全可以复用到此类问答社区中。


除了上篇文章讲述的利用CNN来构造ML系统外，我们还尝试了使用RNN及其改进模型LSTM，本文主体内容即为使用深度双向LSTM构造社区问答系统的思路及效果。


|深度双向LSTM模型



                                                       图1

最低0.47元/天 解锁文章
张俊林博客
关注
专栏目录
LSTM实现简单的问答系统，keras的bAbI
Amy_mm的博客
07-17 6776
3.3 LSTM实现简单的问答系统 3.3.1 问答系统简介 3.3.2 基于keras实现简单的问答系统 模型逻辑图如下： 数据集：Facebook的bAbI数据 训练集： 1 Mary moved to the bathroom. 2 Sandra journeyed to the bedroom. 3 Mary got the football there. 4...
利用卷积神经网络（CNN）构造社区问答系统
张俊林的博客
12-21 2万+
问答社区算是一类已经比较成熟的互联网应用了，国外的比如Quora、StackOverflow，国内的比如老派的百度知道，新一代的知乎，都算是代表性的社交类问答社区。问答社区本质上就是个人肉知识库，通过一段时间的积累，会累积相当多以<问题，答案>方式存在的知识。
LSTM模型在问答系统中的应用 2017-06-27 21:03 在问答系统的应用中，用户输入一个问题，系统需要根据问题去寻找最合适的答案。 1：采用句子相似度的方式。根据问题的字面相似度选择相似度最
周红伟讲AI
07-04 1928
LSTM模型在问答系统中的应用 2017-06-27 21:03 在问答系统的应用中，用户输入一个问题，系统需要根据问题去寻找最合适的答案。 1：采用句子相似度的方式。根据问题的字面相似度选择相似度最高的问题对应的答案，但是采用这种字面相似度的方式并不能有效的捕获用户意图的能力有限。 2：IBM早期应用在watson系统中的DeepQa算法。该算法通过人工抽取一系列的特
问答社区
weixin_34221073的博客
02-14 173
为什么80%的码农都做不了架构师？>>> ...
问答式网络社区（ASK）
Josie_QD的博客
12-12 2906
问答式网络社区（ASK） 一、问答式网络社区（ASK)的概念 问答式网络社区是一种知识问答式网络社区，如百度知道、腾讯问间、新浪爱问、知乎网站等。在这些ASK社区中，用户可以提出问题，同时每一个人也都可以去回答别人的问题，正是这种“问答”，为一些企业的“网络推广”带来了机会。 二、问答式网络社区（ASK)的价值 1.ASK网络社区在网络营销中的作用利用ASK网络社区开展网络营销的作用主要体现在两...
猿创征文丨深度学习基于双向LSTM模型完成文本分类任务_基于lstm网络实现文本分类系统
2401_84182222的博客
05-04 558
从输出结果看，加载后的每条样本包含两部分内容：文本串和标签。
时间序列预测——双向LSTM(Bi-LSTM)
热门推荐
行者无疆的博客
04-12 2万+
  本文展示了使用双向LSTM(Bi-LSTM)进行时间序列预测的全过程，包含详细的注释。整个过程主要包括：数据导入、数据清洗、结构转化、建立Bi-LSTM模型、训练模型（包括动态调整学习率和earlystopping的设置）、预测、结果展示、误差评估等完整的时间序列预测流程。   本文使用的数据集在本人上传的资源中，链接为mock_kaggle.csv 代码如下： import pandas as pd import numpy as np import math import keras from ma
大数据知识图谱之深度学习——基于BERT+LSTM+CRF深度学习识别模型医疗知识图谱问答可视化系统_bert+lstm
2401_84159813的博客
05-04 998
Django是一个开放源代码的Web应用框架，由Python写成。采用了MVC的软件设计模式，即模型M，视图V和控制器C。用于创建模型的对象关系映射为最终用户设计的完美管理界面一流的 URL 设计设计者友好的模板语言缓存系统。在Django中，控制器接受用户输入的部分由框架自行处理，所以 Django 里更关注的是模型（Model）、模板(Template)和视图（Views），称为 MTV模式。层次模型（Model），即数据存取层模板(Template)，即表现层。
Node.js-一个问答社区项目
08-10
一个问答社区项目
Wendasns问答社区系统-PHP
06-21
Wendasns问答社区系统是一款开源，高效，易于二次开发的问答系统，拥有问答模快、文章模快、话题模快，内置ucentre用户系统、管理组与用户组权限、邮件设置、用户管理、分类管理、问题管理、回答管理、文章管理、评论管理、话题管理、通知管理、举报管理、友情链接、公告管理、广告管理。内置独特的用户管理，支持多应用接入；问答与文章支持目录化伪静态URL自定义访问，内容、社交、付费，三者合一，涵盖积分、付费打赏、分享等功能，激发用户主动创作内容，扩散有价值的信息。 功能特点： 开放源码 WendaSNS是一款开放源码的PHP问答社区系统，基于Thinkphp 6.X版本开发而成，具有强大的负载能力和稳定性。 LayUi前端 前端基于LayUi框架，经典模块化极易扩展和定制，一套模板可以同时的运行在PC、平板、手机等多设备上。 多数据库 完美支持Mysql、MariaDB、PostgreSQL等数据库存储，方便各种环境定制。 更好的SEO 支持路由规则自定义，可以定制自己的专属URL显示规则。同时支持页面自定义。 多入口登录 支持社交QQ、Sina微博、微信、百度帐号、手机、邮箱等方式登录系统。 轻管理 管理后台可以轻松完成网站、问答、文章、视频等功能管理，支持多角色分权限管理。 轻运营 支持手机号码或邮箱注册，通过短信或邮件进行验证，保证用户真实性。 互动强 评论、点赞、通知……随时互动，简单快捷；所有内容一键分享，迅速扩散。 安装说明： 1、解压后，设置运行环境要求PHP7.1+，运行目录为 public 2、运行http://你的域名/ 进行安装，后台管理http://你的域名/admin.php 3、开启伪静态访问 使用宝塔面板用户---在配置文件，找到以下内容删除。     location ~ .*\.(gif|jpg|jpeg|png|bmp|swf)$     {         expires      30d;         error_log off;         access_log off;     } 更新Wendasns V1.1.5 修复文章详情页里，发表评论提示文章禁止评论，再次评论，提交的表单数据空值 修复用户中心->我的收藏->选项卡切换，都是显示的问题数据列表 修复账号设置->修改密码，提交异常 修复打开编辑签名，显示undefined 修复删除文章后，跳转出错 修复提问或回答时，插入的图片大过显示区，会溢出 修复回答时，文字设置字体加粗、斜体等，被过滤了 修复主题分享时，微博或QQ空间显示的分享图片是百度的 修复话题列表页，话题里的文章或问题数不对 修复用户中心->我的粉丝->我的粉丝/我的关注选项卡里，取消关注提示用户不存在 修复问题详情页里，调整问题补充、回答、答案编辑的编辑器形式，且已回答的用户，不在显示"我来回答"按钮 修复有管理权限的用户，问题详情页里，显示补充问题、删除、回答编辑功能 修复用户有管理权限，但补充问题时，提示要登录账号 修复搜索结果页里，用户主页链接去掉html后缀 修复文章没有标签，文章列表里还是显示空标签 修复问题详情页，新增点击图片，显示大图功能 更新Wendasns V1.1.0 修复已知BUG 更新内核Thinkphp6.0.7，支持PHP8.0
WeCenter开源问答社区程序
09-05
WeCenter 是一款开源知识型的社交化问答社区程序，专注于社区内容的整理、归类和检索，并通过连接微信公众平台，移动APP进行内容分发。
社区问答系统研究综述
05-05
对于社区问答领域进行了一个很好的综述，文章综述社区问答的如下方面：用户行为分析，内容质量检测，专家用户发现，问题检索等各方面的内容
双隐层LSTM和双向LSTM
03-21
使用双隐层LSTM模型（DHLSTM）和双向LSTM（Bi-LSTM）模型两种方法，实现MNIST数据集分类
使用人工设定语言学特征及双向lstm+crf基于字颗粒的序列标注预测.zip
最新发布
05-22
总的来说，这个项目展示了如何结合人工设定的语言学特征与深度学习方法，特别是双向LSTM和CRF，来解决基于字颗粒的序列标注问题。这样的方法在理解和处理中文文本时特别有效，因为中文的字粒度分析能提供更细致的...
序列模型简介：RNN, 双向RNN, LSTM, GRU，有图有真相
AI公园
01-16 2693
点击上方“AI公园”，关注公众号，选择加“星标“或“置顶”作者：Rohith Gandhi编译：ronghuaiyang导读既然我们已经有了前馈网络和CNN，为什么还需要...
社区问答调研
ss654271961的博客
10-14 617
博客：社区问答系统及相关技术
双向lstm模型图片
02-06
双向LSTM（Bidirectional LSTM）是一种循环神经网络（RNN）的变体，它在处理序列数据时能够同时考虑过去和未来的上下文信息。与传统的单向LSTM只能从前到后依次处理序列不同，双向LSTM还引入了一个反向的LSTM，可以从后往前处理序列。这样，双向LSTM能够更好地捕捉序列中的长期依赖关系。 下面是一张示意图，展示了双向LSTM模型的结构： ``` 前向LSTM层 ---> 输入序列 ---> 反向LSTM层 <----------- 输出序列 <----------- ``` 在这个示意图中，输入序列从左到右表示，经过前向LSTM层和反向LSTM层的处理后，得到相应的输出序列。前向LSTM层按照正常的顺序处理输入序列，而反向LSTM层则按照相反的顺序处理输入序列。最终，两个方向的输出序列会被合并在一起，形成最终的输出。 通过双向LSTM模型，我们可以同时利用过去和未来的上下文信息，从而更好地理解和建模序列数据。这对于许多任务，如语言建模、机器翻译、情感分析等，都具有重要的作用。
评论 10
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值