《 SFFAI 101 多模态预训练专题》
直播时间:4月3日 11:00—12:00线上直播
来自来自微软高级研究员甘哲推荐的文章主要关注于多模态预训练领域,你可以认真阅读讲者推荐的论文,来与讲者及同行线上交流哦。
推荐理由: 这两篇论文都是第一批关于多模态预训练模型的工作。
推荐理由: 比较经典的关于多模态预训练的工作,截至论文发表,在13个多模态数据集和任务上取得state-of-the-art的结果。
推荐理由: ECCV 2020 Spotlight论文,详细分析了多模态预训练模型学到了什么。
推荐理由: NeurIPS 2020 Spotlight论文,使用对抗训练的方法提高预训练模型的效果。
推荐理由: 如何评测和提高多模态预训练模型的鲁棒性,在7个关于VQA鲁棒性的任务中取得state-of-the-art的结果。
随着OpenAI CLIP和DALL-E等模型的相继出现,多模态预训练成为一个日益热门的研究方向。在本次的talk中,我将分享我们组在这个领域上最近发表在ECCV 2020和NeurIPS 2020的几个工作。我将具体讨论如下主题。第一,如何实现多模态预训练?第二,如何理解预训练模型学到了什么?第三,如何提高预训练模型的效果?对抗训练能否达到这样的目的?第四,如何评测和提高预训练模型的鲁棒性?
直播时间
2021年4月3日(周六)11:00—12:00 线上直播
关注微信公众号:人工智能前沿讲习,对话框回复“SFFAI101”,获取入群二维码
注:直播地址会分享在交流群内
SFFAI介绍
现代科学技术高度社会化,在科学理论与技术方法上更加趋向综合与统一,为了满足人工智能不同领域研究者相互交流、彼此启发的需求,我们发起了SFFAI这个公益活动。SFFAI每周举行一期线下活动,邀请一线科研人员分享、讨论人工智能各个领域的前沿思想和最新成果,使专注于各个细分领域的研究者开拓视野、触类旁通。
SFFAI目前主要关注机器学习、计算机视觉、自然语言处理等各个人工智能垂直领域及交叉领域的前沿进展,将对线下讨论的内容进行线上传播,使后来者少踩坑,也为讲者塑造个人影响力。SFFAI还在构建人工智能领域的知识森林—AI Knowledge Forest,通过汇总各位参与者贡献的领域知识,沉淀线下分享的前沿精华,使AI Knowledge Tree枝繁叶茂,为人工智能社区做出贡献,欢迎大家关注SFFAI论坛:人工智能前沿学生论坛。