ACL 2023 于 5 月 2 日公布了论文接收结果。中国科学院信息工程研究所第二研究室、第三研究室有 14 篇论文被 ACL 2023 录用。
第 61 届 ACL(Annual Meeting of the Association for Computational Linguistics)计划于 2023 年 7 月 9 日 - 7 月 14 日在加拿大多伦多召开。ACL 年会是计算语言学和自然语言处理领域最重要的顶级国际会议,是中国计算机学会(CCF)推荐的 A 类国际学术会议。
下面是录用论文列表及介绍(按论文首字母排序)。
01
/ ACL 2023, Main Conference /
论文题目:
A Gradient Control Method for Backdoor Attacks on Parameter-Efficient Tuning
论文作者:
顾佴彬,付鹏,刘曦雨,刘正宵,林政,王伟平
论文类型:
ACL 2023, Main Conference
论文概述:参数高效微调方法通过仅微调预训练模型少部分参数,在下游任务上取得了良好的性能表现。而同时由于模型权重的脆弱性,也为后门攻击提供了机会。然而相比于先前全参数微调场景中直接在预训练模型上注入后门,参数高效场景中的攻击目标从预训练模型转移到了只有少量参数的参数高效模块上。因为可攻击参数量大量减少,用户的微调会导致后门发生严重遗忘,显著影响后门攻击的有效性。
为了解决这一问题,我们将后门注入视为一种多任务学习过程,发现其在训练干净数据和后门数据之间存在收敛不平衡问题。基于这一发现,我们提出了一种梯度控制方法来巩固攻击效果,包括控制任务内各层的梯度分布均衡(Cross-Layer Gradient Magnitude Normalization)和消除任务间层内的梯度方向冲突(Intra-Layer Gradient Direction Projection)两种策略。在不同任务上的实验结果表明,我们的方法相比基线方法具有更好的攻击有效性。
02
/ ACL 2023, Main Conference /
论文题目:
CATS: A Pragmatic Chinese Answer-to-Sequence Dataset with Large Scale and High Quality
论文作者:
李亮、耿瑞莹、方承炀、李冰、马灿、曹荣禹、黎槟华、黄非、李永彬
论文类型:
ACL 2023, Main Conference
论文概述:当前主流的数据到文本生成数据集存在三个问题。首先,规模较大的数据集要么包含噪声、要么缺乏实际的应用场景;其次,与实际应用场景接近的数据集规模都相对较小;最后,目前的数据集偏重于英语,而对其他语言的探索不足。为了缓解当前数据到文本生成数据集存在的上述限制,我们提出了 CATS,一个大规模、高质量的实用中文答案描述生成(Answer-to-Sequence)数据集。
该任务的目标是为 Table QA 系统中的答案(Table 形式)生成自然语言文本描述,与此同时,产生该答案的 SQL 语句也被作为该任务的输入,目的是控制文本生成的方向和内容。此外,为了弥合输入的 SQL 和表格之间的结构差距,建立更好的语义对齐,我们提出了一种统一图转换(Unified Graph Transformation,UGT)方法。
UGT 不仅为两种异构知识输入建立联合编码空间,而且将答案描述生成任务转化为图到文本(Graph-to-Text)问题,简化了任务建模过程。在 CATS 数据集上的实验结果不仅证明了所提出方法 UGT 的有效性。与此同时,进一步分析也表明了 CATS 数据集具备较高的质量和挑战性。
03
/ ACL 2023, Main Conference /
论文题目:
Combo of Thinking and Observing for Outside-Knowledge VQA
论文作者:
佀庆一,莫宇尘,林政,季慧山,王伟平
论文类型:
ACL 2023, Main Conference
论文概述:外部知识视觉问答是一项具有挑战性的任务,需要获取和使用开放的现实世界知识。一些现有的解决方案将外部知识引入跨模态空间,但忽略了自