【SIGIR-AP 2023】A Comparative Study of Training Objectives for Clarification Facet Generation

原创 已于 2023-10-20 19:44:03 修改 · 422 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#论文阅读 #人工智能 #语言模型

于 2023-10-20 19:43:08 首次发布
本文对比了两种常见的澄清式用户查询意图生成方法（seq-pred和sep-min-perm），提出三种新方法(set-pred,seq-avg-perm,seq-set-pred)，并引入多样性评估，以全面分析这些训练目标在MIMICS数据集上的优缺点。

前言

介绍一下我们的第一个工作，该工作被SIGIR-AP 2023接收。

  • 本文主要关注澄清式用户意图生成，我们对两种已有的生成方式(seq-pred, sep-min-perm)进行了研究，指出其中的弊端，并提出了三种新的生成方式(set-pred, seq-avg-perm, seq-set-pred)，分析了五种生成方式的优点和缺点，为澄清式用户意图生成提供指导。
  • 五种生成方式，其实就五种训练+推理方式
  • 文章链接: A Comparative Study of Training Objectives for Clarification Facet Generation

摘要:

Duetotheambiguityandvaguenessofauserquery,itisessential to identify the query facets for the clarification of user intents. Existing work on query facet generation has achieved compelling performance by sequentially predicting the next facet given previously generated facets based on pre-trained language generation models such as BART.Givenaquery, there are mainly two types of training objectives to guide the facet generation models. One is to generate

最低0.47元/天 解锁文章
(SIGIR 2023)Aligning Distillation For Cold-start Item Recommendation
DDykQAQ的博客
03-07 1387
现有致力于解决冷启动物品的模型分为生成模型和dropout模型两大类，但是它们仅仅只聚焦于冷启动物品的推荐，忽视了冷物品与热物品的差异性，因此，生成模型可能会过于极端，要么只推荐冷物品要么只推荐热物品，dropout模型会降低热物品推荐的性能。
推荐系统论文阅读总结:SIGIR 2023 Multi-behavior Self-supervised Learning for Recommendation
cyzz523的博客
06-25 3018
在多行为场景中，设计了自监督范式（在行为间和行为内两个层次进行节点自鉴别）
论文笔记：2023顶会SIGIR - Distillation-enhanced Graph Masked Autoencoders for Bundle Recommendation
一枚射手座的程序媛
09-02 406
本文提出了一种基于知识蒸馏增强的图掩码自编码器（D-GMAB）用于捆绑推荐。该方法通过设计双视图掩码策略，分别从不同视角对用户-捆绑图和用户-物品图进行掩码处理，并引入知识蒸馏技术来增强模型对不同视图间语义关系的捕捉能力。实验结果表明，D-GMAB在多个真实数据集上的推荐性能显著优于现有基线方法，验证了所提模型在挖掘用户偏好和提升推荐效果方面的有效性。该工作为捆绑推荐领域提供了一种新的自监督学习解决方案。
推荐系统代码阅读:SIGIR 2023 Multi-behavior Self-supervised Learning for Recommendation
cyzz523的博客
06-29 1103
代码阅读，同时对应于论文中的公式
论文笔记：2023顶会SIGIR - Strategy-aware Bundle Recommender System
一枚射手座的程序媛
09-02 847
本文提出了一种策略感知的捆绑推荐系统(SBRS)，通过挖掘用户行为数据中的策略模式来提升推荐效果。该方法采用策略感知关系图卷积网络，学习用户-捆绑包-商品的三元关系，并识别常见的营销策略组合。实验表明，SBRS在真实数据集上显著优于现有方法，特别是在捕捉策略性购买行为方面表现突出。该研究为电商平台优化捆绑推荐提供了新思路，通过理解用户决策策略来生成更精准的个性化推荐。
2021-SIGIR-Path-based Deep Network for Candidate Item Matching in Recommenders
Dive的博客
03-22 563
Path-based Deep Network for Candidate Item Matching in Recommenders 2021-SIGIR-阿里、蚂蚁 介绍了工业界主流的两种召回方式及对应的特点，提出PDN整合两种召回方式。 1 INTRODUCTION a matching stage is expected to retrieve a small fraction of relevant items in low latency and computational cost a r
【论文阅读】 2014SIGIR - Explicit Factor Models for Explainable Recommendation based on Phrase-level Senti
weixin_42692506的博客
09-04 789
【论文阅读】 2014SIGIR - Explicit Factor Models for Explainable Recommendation based on Phrase-level Sentiment Analysis 1.一些概念定义 首先，文章根据用户对物品的评论，采用情感分析等自然语言手段，构建user-feature 矩阵 X、item-feature矩阵 Y 和user-item矩阵 A 。 其中，X中的元素由以下公式决定： ，tij为用户i - Ui在评论中提到特性j - Fj的次数。
【SIGIR‘2023】LightGT: A Light Graph Transformer for MultimediaRecommendation
m0_67899322的博客
11-11 1046
传统推荐系统主要依赖协同过滤（CF）方法，但多媒体推荐通过引入用户偏好与内容特征（如视觉、音频、文本）之间的关联，能够提升推荐效果。（1）特征提取与推荐任务脱节——>从已有特征中提炼与推荐相关的信息，而非直接使用预训练提取的原始特征。（2）忽视用户历史交互中物品之间的关联——>建模用户历史交互物品之间的关联，以挖掘用户偏好的内容特征。（3）Transformer 模型在推荐系统中效率低下——>设计轻量化的 Transformer 架构，在保证推荐效果的同时提升训练和推理效率。
LayoutLM: Pre-training of Text and Layout for Document Image Understanding
myl1992的专栏
05-20 1649
LayoutLM：文本和布局的预训练，用于理解文档图像 Yiheng Xu ∗ charlesyihengxu@gmail.com Harbin Institute of Technology Minghao Li ∗ liminghao1630@buaa.edu.cn Beihang University Lei Cui lecu@microsoft.com Microsoft Research Asia Shaohan Huang shaohanh@microsoft.com Microsoft Res
SIGIR-AP是什么
03-14
在计算机科学领域，特别是搜索引擎评估方面，SIGIR-AP通常指的是 **Average Precision (AP)** 指标在信息检索会议 SIGIR （Special Interest Group on Information Retrieval）中的应用[^1]。平均精度（AP）是一种...
DukeNet:SIGIR-2020全文代码
05-24
DukeNet（SIGIR 2020全文） 的代码：用于。 这项工作得到了腾讯AI实验室犀牛鸟...title = {DukeNet: A Dual Knowledge Interaction Network for Knowledge-Grounded Conversation}, year = {2020}, booktitle = {SIGI
【论文阅读21】-基于大语言模型与领域知识图谱集成的CNC智能故障诊断
Ma040713的博客
12-09 377
摘要：本研究提出了一种融合大语言模型(LLM)与知识图谱(KG)的智能数控机床(CNC)故障诊断系统。针对传统专家系统知识组织效率低、适应性差等问题，构建了包含设备、报警、现象等7类实体的多源知识图谱(1549个实体)，整合PLC代码、维修工单和传感器数据。通过子图检索增强生成(KG-RAG)机制约束LLM推理，结合"人在回路"动态学习实现知识更新。实验表明，该系统诊断准确率达83.29%，显著优于传统方法和初级工程师，验证了量化模型(Qwen2.5-7b)在工业场景的可行性。研究为多模
论文阅读：农业喷雾无人机避障技术综述
m0_53605808的博客
12-06 971
在过去十年中，无人驾驶飞行器（UAV，又称无人机）已广泛应用于各种农业领域，如作物管理、作物监测、播种和农药喷洒等。尽管如此，自主性仍然是物联网（IoT）无人机系统面临的关键限制，尤其是在作为喷雾无人机使用时，需要捕获和预处理数据以实现可靠的实时障碍物检测和避撞。此外，由于通用无人机与喷雾无人机在目标和操作上存在差异，并非所有障碍物检测和避撞方法都适用于喷雾无人机。鉴于此，本文旨在综述农业喷雾无人机避障场景相关的所有分支领域的最新进展，包括喷雾无人机的结构细节。
【论文阅读】VQ-VAE|Neural Discrete Representation Learning首个提出 codebook 机制的生成模型
一碗白开水一
12-09 586
VQ-VAE（Vector Quantized Variational Autoencoder）是一种结合向量量化的变分自编码器，由DeepMind提出。其核心思想是将连续隐变量离散化，通过码本（codebook）学习离散表示，适用于图像、音频等数据的生成与压缩。
FlowBench论文阅读：Workflow-Guided Planning for LLM-based Agents
阿正的梦工坊
12-08 537
FlowBench 是 EMNLP 2024 论文《FlowBench: Revisiting and Benchmarking Workflow-Guided Planning for LLM-based Agents》提出的首个工作流引导代理规划基准，旨在评估 LLM-based Agents 在知识密集型任务中的规划可靠性。
[论文阅读] AI + 软件工程 | 告别“大海捞针”：LLM+自然语言摘要，破解多仓库微服务漏洞定位难题
最新发布
张较瘦
12-09 328
多仓库微服务架构中的漏洞定位面临三大挑战：漏洞报告与代码间的语义鸿沟、大语言模型（LLM）的上下文限制，以及需先定位正确仓库的需求。本文将该问题重构为自然语言推理任务，通过将代码库转化为分层自然语言摘要，实现自然语言到自然语言的搜索，而非跨模态检索。该方法构建文件、目录、仓库级别的上下文感知摘要，再通过两阶段搜索：先将漏洞报告路由至相关仓库，再在仓库内自上而下定位漏洞。在包含46个仓库、110万行代码的工业级系统DNext上评估，该方法实现Pass@10=0.82、MRR=0.50的性能，显著优于传统检索基
【论文笔记】《Improving action segmentation via explicit similarity measurement》
feizuiku0116的博客
12-08 6691
本文提出了一种基于显式相似性度量的动作分割方法ASESM，通过多分辨率特征提取和相似性投票提高初始预测精度，并设计迭代边界校正算法优化动作边界。监督学习框架采用多编码器结构，结合边界校正与片段平滑技术，在50Salads等数据集上验证了有效性。同时提出完全无监督的边界检测方法，仅依赖特征相似性无需训练。该方法解决了现有技术过度依赖逐帧分类和缺乏边界验证机制的问题，显著提升了动作分割性能。
【论文阅读】3D-VisTA：具身智能中统一多种下游任务的预训练Transformer模型
m0_62128746的博客
12-08 336
2023-https://3d-vista.github.io/-提出了首个用于3D-VL预训练的大规模数据集ScanScribe，提出了3D视角下的pretrain Transformer
Attention is all you need——论文笔记
aaaa_a133的博客
12-05 1008
在WMT 2014英法翻译任务上，我们的模型在8个GPU上进行了3.5天的培训后，建立了一个新的单一模型最先进的BLEU得分41.8%，成本比之前下降了a small fraction of the training costs of the best models from the literature。关联来自两个任意输入或输出位置的信号所需的操作数量随着位置之间的距离而增加，对于ConvS2S是线性的，对于ByteNet是对数的。它们被连接起来，并再次投影，产生最终的值，如图2所示。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

长命百岁️

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值