直播 | AAAI 2021：自然语言中token-aware的虚拟对抗样本训练

「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间，旨在帮助更多的青年学者宣传其最新科研成果。我们一直认为，单向地输出知识并不是一个最好的方式，而有效地反馈和交流可能会让知识的传播更加有意义，从而产生更大的价值。

本期 AI Drive，我们邀请到复旦大学 NLP 组硕士生李林阳，为大家解读其发表于 AAAI 2021 的最新工作。对本期主题感兴趣的小伙伴，1 月 13 日（周三）晚 7 点，我们准时相约 PaperWeekly B 站直播间。

直播信息

自然语言中，对抗样本训练能够显著的提升模型的性能。这一做法是从计算机视觉领域中防御对抗样本攻击时发展出的一类方法，而在自然语言中，我们可以设计出更符合语言序列的对抗训练方法。这篇文章提出的 token-aware 的虚拟对抗样本训练方法，可以生成更为细粒度，“token-aware”的虚拟对抗样本，在自然语言任务（例如 GLUE benchmark）中取得了较好的性能提升。

论文链接：

https://arxiv.org/abs/2004.14543

代码链接：

https://github.com/LinyangLee/Token-Aware-VAT

本次分享的具体内容有： 

• 对抗样本攻击与对抗训练

• 自然语言中的对抗样本攻击与对抗训练

• 目前方法存在的两个问题：初始化问题和正则化问题

• Token-Aware VAT 的做法

• 实验结果与分析

• 总结

嘉宾介绍

 李林阳 / 复旦大学NLP组硕士生 

李林阳，复旦大学 NLP 组 19 级研究生；导师为邱锡鹏教授；目前研究方向为自然语言中的对抗样本学习。曾以第一作者身份在 EMNLP，AAAI 等会议上发表论文。曾获复旦大学华为奖学金。

直播地址 & 交流群

本次直播将在 PaperWeekly B 站直播间进行，扫描下方海报二维码或点击阅读原文即可免费观看。线上分享结束后，嘉宾还将在直播交流群内实时 QA，在 PaperWeekly 微信公众号后台回复「AI Drive」，即可获取入群通道。

B 站直播间：

https://live.bilibili.com/14884511

合作伙伴

????

现在，在「知乎」也能找到我们了

进入知乎首页搜索「PaperWeekly」

点击「关注」订阅我们的专栏吧

关于PaperWeekly

PaperWeekly 是一个推荐、解读、讨论、报道人工智能前沿论文成果的学术平台。如果你研究或从事 AI 领域，欢迎在公众号后台点击「交流群」，小助手将把你带入 PaperWeekly 的交流群里。