重磅预告 | ACL 杰出论文获得者开讲！

AITIME论道

于 2022-06-12 10:30:02 发布

阅读量358

点赞数

文章标签：算法人工智能大数据编程语言机器学习

原文链接：https://mp.weixin.qq.com/s?__biz=MzIzOTAxOTk3Nw==&mid=2247502802&idx=1&sn=5808a6ae75c0ac13883a3b1335cf4b52&chksm=e932f974de457062d4fca8bd5aec37f6ff5e7d23c43a9460fd8f435a947860b0d7f4de360fc2&scene=126&&sessionid=0

版权

点击蓝字

关注我们

AI TIME欢迎每一位AI爱好者的加入！

6月15日、16日19:30，本期我们邀请到荣获ACL杰出论文的五位讲者给大家带来精彩的分享！

哔哩哔哩直播通道

扫码关注AI TIME哔哩哔哩官方账号预约直播

6月15日 19:30-20:30

高天宇：

普林斯顿大学博士二年级在读，导师为陈丹琦教授。他的研究方向是预训练语言模型，对比学习，少样本学习等。在加入普林斯顿之前，他于清华大学获得本科学位，导师为刘知远教授。

分享内容：

放弃“金”标准：如何评测对话问答系统

报告简介：

对话问答研究如何在信息索取对话中为用户提供答案。目前的对话问答数据集在评测中通常使用预先采集的人-人对话，并在对话历史中使用标准答案（金标准）。这样的评测方式与真实应用环境存在巨大的差距，并且很难反应模型在真实世界中的表现。我们开展了针对对话问答系统的第一个大规模人类评测。我们要求标注员与模型进行对话并判断其答案的正确性。我们发现人类与模型的对话和人-人对话非常不同，并且现有的评测与我们的人类评测结果不一致。基于我们的分析，我们提出了一个新的自动化评测方法——我们通过问题改写机制使得自动化评测和人类评测更一致。最后，我们分析了不同模型策略对其表现的影响，并讨论了若干可能的对话问题研究方向。

周嘉伟：

哈佛大学自然语言处理小组博士生，导师是Professor Alexander (Sasha) Rush （现任职于康奈尔大学）。他的研究方向为自然语言处理和深度学习，包括自然语言生成，例如自动摘要、翻译等应用，基于图结构生成的语义解析，以及图结构数据的机器学习和神经网络的应用。他取得了哈佛大学统计系的硕士学位，以及清华大学电子工程系的本科学位。

分享内容：

在面向任务的对话中减少延迟的在线语义解析

报告简介：

标准会话语义解析（conversational semantic parsing）将完整的用户话语映射到可执行程序中，然后执行该程序以响应用户。当程序包含昂贵的函数调用时，这可能会很慢。我们研究通过在用户仍在说话时预测和执行函数调用来减少延迟的机会。为此，我们引入了在线语义解析任务（online semantic parsing），并采用受同步机器翻译（simultaneous machine translation）启发的形式延迟减少指标。我们提出了一个通用框架，首先是一个学习的前缀到程序（prefix-to-program）预测模块，然后是一个简单而有效的阈值启发式算法，用于早期执行的子程序选择。在 SMCalFlow 和 TreeDST 数据集上的实验表明，我们的方法通过良好的解析质量实现了大幅延迟减少，延迟减少 30%–65%，具体取决于函数执行时间和允许的成本。

6月16日 19:30-20:30

魏相鹏：

达摩院算法专家，2021年6月毕业于中国科学院大学，获得工学博士学位。长期从事自然语言处理的基础算法研究，研究兴趣包括神经机器翻译、多语言文本生成及跨语言表示学习等。

分享内容：

基于连续语义增强的神经机器翻译

报告简介：

神经机器翻译是目前主流的机器翻译技术，它需要从大量双语数据中学习翻译能力。然而双语数据有限且获取成本很高，翻译质量的提升遇到诸多困难，数据稀缺的场景问题更加凸显。针对这一问题，该论文突破了传统离散语义空间数据增强方法，以有限的训练样本为锚点，学习连续语义分布以建模全局的句子空间，并据此构建神经机器翻译引擎。论文提出的方法能够有效地提升双语数据的利用效率，显著改善模型的泛化能力和鲁棒性。

陶超凡：

香港大学博士二年级，导师是黄毅和罗平。主要研究方向是模型在不同任务上的压缩和加速。

分享内容：

基于量化的生成式预训练语言模型压缩

报告简介：

预训练语言模型(PLM)的模型大小在不断增大。虽然目前有很多工作研究了BERT以及相关变体的压缩，很少有工作关注生成式语言模型的压缩。在本工作中，我们通关量化的方式对生成式语言模型进行压缩。我们发现一些以前的量化方法在压缩生成式语言模型的时候会出现词向量同质化和权重分布差异较大的问题。对此，我们提出了一个基于对比学习的蒸馏方法和一个模块自适应的量化器，使得不同的词向量的区分度增大，且量化过程更为精准。实验表明，在和未压缩模型的表现差距可接受的范围内，我们的方法在GPT-2和BART上分布取得了14.4x和13.4x的压缩率。

直播结束后大家可以在群内进行提问，请添加“AI TIME小助手（微信号：AITIME_HY）”，回复“ACL”，将拉您进“ACL 交流群”！