【论文阅读】Sequential Latent Knowledge Selection For Knowledge-Grounded Dialogue

最新推荐文章于 2024-06-13 22:53:07 发布
最新推荐文章于 2024-06-13 22:53:07 发布
阅读量228 收藏
点赞数
分类专栏： nlp 文章标签： 论文阅读 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/capsnever/article/details/127302387
版权

1.论文链接

https://arxiv.org/pdf/2002.07510.pdf

2.论文主要为了解决什么问题？

之前的知识选择都是一步完成，论文主要是为了解决知识的多样性

3.模型流程

在这里插入图片描述
把知识选择看成一个连续的决策，而不是单步就能完成的决策，类似于LSTM

4.论文创新点

论文借鉴了之前的长期决策的思想，在选择外部学习资料的时候也进行了长期的学习

Capsfly
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
知识对话2021《Unsupervised Knowledge Selection for Dialogue Generation》论文解读
weixin_44487404的博客
12-18 572
Unsupervised Knowledge Selection for Dialogue Generation 这篇论文是微信团队出的一篇，想解决的是没有最佳知识标签（无监督）情况下，对话模型怎么办？ 具体的就是，1）怎么选出最佳知识2）选出最佳知识解码器怎么好好利用3）选出错误知识解码器怎么降低影响。 反思：核心技术点有distance supervision、知识蒸馏方面需要恶补一下。 模型架构图，画的有点…还是略过图看原文比较好 1.知识选择 Selection Query：将历史信息、历史知识、
【SCIR笔记】以文档为额外知识的生成式对话
zenRRan的博客
09-23 511
作者：哈工大SCIR 马龙轩1. 摘要本文介绍以文档为额外知识的生成式对话系统。根据当前研究中对文档的不同处理方式，我们将其分为三类（以句子为单位建模，直接建模文档，文档结构化处理），对...
论文总结——融入知识的对话
zoe的博客
06-06 862
融入知识的对话生成~
EMNLP2021文章选读：对话系统方面 chatbot/dialogue system
xuyifancsdn的博客
12-08 1019
A Role-Selected Sharing Network for Joint Machine-Human Chatting Handoff and Service Satisfaction Analysis （Liu2021） Abstract： Chatbot is increasingly thriving in different domains, however, because of unexpected discourse complexity and training data spar
ICLR2020 NLP优秀论文分享（附源码）
zenRRan的博客
06-07 1107
点击上方，选择星标或置顶，每天给你送干货！阅读大概需要5分钟跟随小博主，每天进步一丢丢来自 |知乎地址 |https://zhuanlan.zhihu.com/p/139069973...
Li-StoryGAN-A-Sequential-Conditional-GAN-for-Story-Visualization
12-25
Li-StoryGAN-A-Sequential-Conditional-GAN-for-Story-Visualization
Sequential fusion ℋ∞ filtering for multi-rate multi-sensor time-varying systems – a Krein space approach
02-11
Sequential fusion ℋ∞ filtering for multi-rate multi-sensor time-varying systems – a Krein space approach
Sequential anaerobic-aerobic treatment for domestic wastewater - A review
05-12
Sequential anaerobic-aerobic treatment for domestic wastewater - A review
施舟行__A Deep Sequential Model for Discourse Parsing on Multi-Part
08-03
A Deep Sequential Model for Discourse Parsing onZhouxing Shi and Minlie HuangDis
从ICLR 2020、AAAI 2020看对话系统近期研究进展
Paper weekly
05-28 1776
©PaperWeekly 原创 ·作者｜王馨月学校｜四川大学本科生研究方向｜自然语言处理本文盘点近期 ICLR 2020、AAAI 2020 上几篇对话系统相关的论文。ICLR 202...
顶会速递 | ICLR 2020录用论文之自然语言处理篇
语言智能技术笔记簿
03-12 5187
人工智能顶会ICLR 2020录用的自然语言处理相关的研究论文已经为大家准备好，欢迎Mark学习！
最新NLP论文阅读列表，包括对话、问答、摘要、翻译等（附资源）
THU数据派
03-26 3017
来源：专知本文约1000字，建议阅读20分钟。Github项目iwangjian/Paper-Reading包含了最新的NLP相关论文列表，包括对话系统、文本摘要、主题模...
EMNLP'21 | Dialogue System 对话系统
zenRRan的博客
11-22 1054
每天给你送来NLP技术干货！编辑：机器学习算法与自然语言处理在EMNLP2021包含Dialog的关键字的文章整理如下（也包括intent，slot，spoken language und...
论文阅读：H-ViT，一种用于医学图像配准的层级化ViT
最新发布
wwimhere的博客
06-13 889
来自CVPR的一篇文章，用CNN+Transformer混合模型做图像配准。可变形图像配准是一种在相同视场内比较或整合单模态或多模态视觉数据的技术，它旨在找到两幅图像之间的非线性映射关系。
【LLM之RAG】RAFT论文阅读笔记
<p>专注挖坑</p>
06-11 986
论文针对的主要问题是如何将预训练的大型语言模型（LLMs）适应特定领域的检索增强生成（RAG）。这些模型通常在广泛的文本数据上进行预训练，已经表现出在广义知识推理任务上的优越性能。然而，在特定领域，如法律、医学或最新新闻等，普遍的知识推理不足以满足精确性的要求，因此需要对这些模型进行适应性调整以增强其在这些领域内的应用性能。
Exploring Performance and Cost Optimization with ASIC-Based CXL Memory——论文阅读
重新开始写博客
06-11 825
针对CXL硬件的测试，测试不同软件在CXL硬件上的性能变化。本文在ASIC CXL 1.1存储器上进行评估，测试不同类型应用的性能表现。（1）CXL 1.1性能特征。带宽争用：延迟在中低带宽利用率下相对稳定，随着带宽接近高水平，延迟呈指数级增加，这主要是由于内存控制器中的排队延迟。与本地主存相比，ASIC CXL的访问延迟为2.5倍，实现了73.6%的PCIe带宽。（2）内存容量受限应用，如键值存储、大数据分析、弹性计算。CXL提供的额外内存容量可以改善受主存容量限制的应用程序。
论文阅读Rolling-Unet，卷积结合MLP的图像分割模型
wwimhere的博客
06-12 848
2）接着，在Rolling操作之后，R-MLP在每个空间位置索引 (hi,wj) 上执行带有权重共享的通道投影，以编码长距离依赖性。通道投影是指在特征矩阵的每个空间位置（即图像的每个像素位置）上，对所有通道的特征进行线性变换，以生成新的特征表示。通道投影的目的是将Rolling操作后的多通道特征进行整合和编码，以捕获长距离依赖性。在Rolling操作之后，每个空间位置的特征图可能会有不同的宽度或高度特征。
论文阅读KAN: Kolmogorov–Arnold Networks
wwimhere的博客
06-09 870
学习了最近大热的KAN网络。
使用model = Sequential()写一个CNN-LSTM-Attention数据预测模型
07-15
好的，下面是使用Keras库中的Sequential模型编写一个CNN-LSTM-Attention数据预测模型的示例代码： ```python from keras.models import Sequential from keras.layers import Conv1D, MaxPooling1D, LSTM, Dense, Attention model = Sequential() # 添加卷积层 model.add(Conv1D(filters=64, kernel_size=3, activation='relu', input_shape=(seq_length, feature_dim))) model.add(MaxPooling1D(pool_size=2)) # 添加LSTM层 model.add(LSTM(units=128, return_sequences=True)) # 添加Attention层 model.add(Attention()) # 添加全连接层 model.add(Dense(units=1, activation='sigmoid')) # 编译模型 model.compile(optimizer='adam', loss='binary_crossentropy', metrics=['accuracy']) # 打印模型概述 model.summary() ``` 注意，上述代码中的`seq_length`和`feature_dim`需要根据你的数据集进行调整，分别表示序列长度和特征维度。此外，你还可以根据具体任务需求调整模型的超参数和层数。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值