ICLR 2024落幕，一文了解ICLR + 历年(2017-2024) 论文整理(含源码！)

来源: AINLPer公众号（每日干货分享！！）
编辑: ShuYini
校稿: ShuYini
时间: 2024-5-13

引言

最近这几天，相信大家都或多或少的刷到了ICLR 2024这个关键词。对于刚刚入门的小伙伴或对此并没有深入的理解，只知道它是一个特别牛的深度学习领域的顶级会议，百度查一下可能也并没有详细的介绍，为此本文带您详细了解ICLR国际顶会。

另外作者还整理历年（2017-2024）论文下载列表，获取方法，GZ AINLPer 回复：历年ICLR

ICLR介绍

ICLR，全称为「International Conference on Learning Representations」（国际学习表征会议），该会议由深度学习三大巨头之二的Yoshua Bengio和Yann LeCun牵头创办。其中Yoshua Bengio 是蒙特利尔大学教授，深度学习三巨头之一，他领导蒙特利尔大学的人工智能实验室MILA进行 AI 技术的学术研究。MILA 是世界上最大的人工智能研究中心之一，与谷歌也有着密切的合作。Yann LeCun同为深度学习三巨头之一的他现任 Facebook 人工智能研究院FAIR院长、纽约大学教授。作为卷积神经网络之父，他为深度学习的发展和创新作出了重要贡献。

该会议是一年一办，截止到2023年它已经举办了11届，而今年第十二届ICLR 2024也刚刚在奥地利维也纳顺利闭幕。该会议被学术研究者们广泛认可，被认为是深度学习的顶级会议。

ICLR宗旨

2013 年5月2日至5月4日在美国亚利桑那州斯科茨代尔顺利举办了第一届ICLR会议，在该次会议上 Bengio 和 LeCun发表的公开信表示：众所周知，数据的应用表征对于机器学习的性能有着重要影响。表征学习的迅猛发展也伴随着不少问题，比如我们如何更好地从数据中学习更具含义及有效的表征。我们对这个领域展开了探索，包括了深度学习、表征学习、度量学习、核学习、组合模型、非常线性结构预测及非凸优化等问题。

尽管表征学习对于机器学习及包括视觉、语音、音频及 NLP 领域起着至关重要的作用，目前还缺乏一个场所，能够让学者们交流分享该领域所关心的话题。ICLR 的宗旨正是填补这一鸿沟。总结一句话就是说，ICLR 希望能为深度学习提供一个专业化的交流平台，并且推行的 Open Review 评审制度（该制度就是公开对投稿文章的审评意见，每个人都可以看到）。

Open Review 评审制度

目前的论文审核主要分为单盲 （single-blind review）、双盲 （double-blind review） 及开放评审（open review）等多种形式。

单盲评审 的含义非常简单，即评审知道作者的名字、学校等身份信息，但作者并不知道评审论文的人是谁，该方式优势明显，可以让评审免受压力并给出客观的评估结果。

双盲评审 是指双方都不知晓彼此的身份信息。这两种方式为较多学术会议及期刊评审论文的主要途径。该种方式能够大幅降低作者个人信息所带来的附加效应，不过，评审也非常有可能从行文、主题中判断作者的信息。

Open Review 与以上两种方式不同，根据规定，所有提交的论文都会公开姓名等信息，并且接受所有同行的评价及提问（open peer review），任何学者都可或匿名或实名地评价论文。而在公开评审结束后，论文作者也能够对论文进行调整和修改。

ICLR 虽然并不一定是第一个采用 Open Review 进行论文评审的机构，但一定是做得最公开、影响范围最大的一个会议。目前 ICLR 的历届所有论文及评审讨论的内容，都完整地保存在OpenReview上，它也是 ICLR 的官方投稿入口

OpenReview.net是马萨诸塞大学阿默斯特学院Andrew McCAllum为 ICLR 2013 牵头创办的一个公开评审系统，秉承公开同行评审、公开发表、公开来源、公开讨论、公开引导、公开推荐、公开 API 及开源等八大原则，得到了 Facebook、Google、NSF 和马萨诸塞大学阿默斯特中心等机构的支持。

历年ICLR接收情况

ICLR 2024 于5月7日-11日在奥地利维也纳召开（刚刚闭幕），根据OpenReview官方放出的结果显示，本届会议共收到了 7262 篇提交论文，整体接收率约为 31%，与去年持平（31.8%）。此外 Spotlights 论文比例为 5%，Oral 论文比例为 1.2%。

ICLR 2023 于2023年5月1日至5日在基加利会议中心举行。ICLR2023共计有4922篇有效投稿，相比上一年增加了32.2%。今年的接收论文标签有两个：论文类型（oral、spotlight、poster）和presentation 的方式，top 5%的论文涉及了 Transformer、in-context learning、扩散模型等内容。

ICLR 2022 于4月25日至4月29日在线举行，ICLR 共有 54 篇 Oral（口头报告）论文和 176 篇 Spolight 论文，论文接收总数 1095 篇，最终投稿量 3391 篇，论文接收率 32.3%。今年的大会不论是投稿量还是接收量都创了新高。

ICLR 2021 于当年5月4日至5月9日在奥地利·维也纳举办，共收到了2997篇论文投稿,相比去年的2594篇论文投稿,增加了15.5%。其中860篇论文被接收，接受率为28.7%，这些论文有53篇分布在Oral，114篇分布在Spotlight以及693 篇将会用Poster展示。

ICLR 2020于当年5月6日至5月9日在新奥尔良顺利举办，该年会议的论文接受同样是分为三个模块（因为该年workshop不在单独列出来），具体情况如下：poster-paper共523篇，Spotlight-paper（焦点论文）共107篇，演讲Talk共48篇，共计接受678篇文章，被拒论文（reject-paper）共计1907篇，接受率为：26.48%。

ICLR 2019于当年5月6日至5月9日在新奥尔良顺利举办，该年会议的论文接受同样是分为三个模块（因为该年workshop不在单独列出来），具体情况如下：poster-paper共478篇，oral-paper（上台演讲）共24篇，共计接受502篇文章，被拒论文（reject-paper）共计1077篇，接受率为：30.74%。

ICLR 2018当年4月30日至5月3日在加拿大温哥华会议中心顺利举办，该年会议的论文接受同样是分为四个模块，具体情况如下：poster-paper共313篇，oral-paper（上台演讲）共23篇，Workshop共89篇，共计接受425篇文章，被拒论文（reject-paper）共计486篇，接受率为：34.36%。

ICLR 2017于当年4月24日至4月26日在法国土伦顺利举办，该年会议的论文接受可以分为四个模块，具体情况如下：poster-paper共183篇，oral-paper（上台演讲）共15篇，Workshop共47篇，共计接受245篇文章，被拒论文（reject-paper）共计245篇，接受率为：37.35%。