NeurIPS 2024评审结果遭全网吐槽!惊动LeCun!评审员打低分,严重贬低论文贡献。。。...

点击下方卡片,关注“CVer”公众号

AI/CV重磅干货,第一时间送达

点击进入—>【Mamba/多模态/扩散】交流群

添加微信号:CVer111,小助手会拉你进群!

扫描下方二维码,加入CVer学术星球!可以获得最新顶会/顶刊上的论文idea和CV从入门到精通资料,及最前沿应用!发论文/搞科研/涨薪,强烈推荐!

e4641bead226189d3e7d20dae7be5e78.png

转载自:新智元 | 编辑:桃子

【导读】NeurIPS 2024评审结果一出,成了全网吐槽重灾区。

每年AI领域的国际顶会,少不了「大事」发生。

前段时间,NeurIPS 2024论文评审结果终于出炉了,网友们开始「拉群」吵成了一片。

fca89ce75bf51159fd55bdd8f7371711.png

这时,有网友爆出黑料:

「一些评审人严重贬低论文贡献,用不合理的标准评判,甚至忽视论文相对于其他工作的实际改进」。

135f78494283b12b7f37423946752b56.png

他认为,这可能是竞品的作者,发现后做出不诚实的评审。

就连LeCun大佬也来围观,立即转发了该帖。

713ee79e99904e31a2a87b9fbe807464.png

作为领域主席,我告诉作者:如果你遇到了这种情况,请联系领域主席(AC)。

作为一个作者,我想问:如何恰当地指出这种行为,并在合法批评和过度把关之间找到平衡点?

87bde92e32ff14a3a9d6e5f33615cd74.png

fd1a5d4b179481cb3e093dcea521f1e4.png

另有网友放出NeurIPS评审员经典评论:这个解决方案不是新的,并且已经被大量研究过了。

88b3e5219fb76232bc1293e7d6c290ce.png

4e681bb37058aece3f17245546672916.png

今年,是NeurIPS第38届年会,将于12月9日-15日在温哥华召开。

1198368e3819954a3bb635f08113a6a5.png

根据Paper Copilot收集的数据统计,截至目前,得分平均分布均在3-6分之间居多。

fefebaa25406966224c909500bf653c4.png

论文被打低分,究竟是谁的问题?

NeurIPS论文低分一片?


一位来自UT Austin的副教授,也是NeurIPS这届顶会的领域主席(AC)之一,阐述了自己所看到的现象。

他表示,在自己负责的一批论文中,已提交了48篇中的16篇评审。

到目前为止,我还没有看到一个正面评价,要么是评审员变得非常严格,要么是论文质量下降了?

今年,NeurIPS收到了很多「回收利用」的论文。

adf722145b0f8ef0c611f10b74d30105.png

另一位AI研究员同样表示,要么就是论文质量下降,要么我就是大家口中讨厌的2号评审员。

dce9a89411b7799c093f90b83211af62.png

在他审阅的论文中,基本上都给了2-4分。

1d9c2c9930e31bc1a6df223d631cc945.png

另有评审员表示,「在我负责的这批62篇论文中,平均评分是4.3分,标准差为1。所以如果你最初得到低分,也不要灰心」!

d7205f0e34f1b99e6b6864f9199fa53d.png

可见,这次NeurIPS顶会论文作者都挺不好受,想要获取高分并不容易。

大模型参与评审

而且AI火了之后,大模型也被用来论文评审。

这次,NeurIPS 2024也不例外。

Reddit网友评论道,自己用一个月的时间审核6篇论文,当看到自己得到的是LLM的评价,真的很受伤。

3e7c7269d093da8ce4696da1f70abd0d.png

b2aad3d5c6f9da9584f03cfa495583b6.png

还有人指出,在自己审阅的论文中,至少发现了3篇由大模型生成的评审意见,很可能还有更多,其中3篇明显是直接复制粘贴了ChatGPT输出,完全没有阅读论文。

这些评审都给了6分,Confidence为4,与其他所有人的评价完全不一致。

e998a49c7cdccd39889c37d63d18eae4.png

更有网友评价道,「论文评论的质量很低」。

一个评审者混淆了我们方法的基线,另一个评审者混淆了基线的派生(正如我们的工作所批评的那样)和我们方法的派生。我怀疑一些评论是由LLM产生的。

c115ee76a81b74b3531b3d9f2664ff52.png

这届评审怎么肥事?


有人指出这本是NeurIPS官方组委会的问题。

对于NeurIPS的评审,6分的描述完全、彻底、奇怪地错误。

通常情况下,给6分就意味着拒稿。但它却被描述为一篇有中等到高影响力,且没有问题的论文?

难怪新评审员给出如此低的分数!

1adef6d0110533996a18e989ce47fa60.png

在NeurIPS评分规则中,给6分的介绍——Weak Accept。

技术上扎实,具有中等到高影响力的论文,在评估、资源、可重复性、伦理考虑方面没有重大问题。

e24a1223185309f69dbd336d0d8f4e76.png

今年6月,NeurIPS一位AC分享了很多关于顶会评审的更多信息:

他负责的一批共有13篇投稿,所有论文都已自动分配了四位评审员。

有趣的是,50%的评审员是博士生,还有几位硕士生和本科生也是评审员。

13篇论文中有5篇的评审员中,没有任何一位的职位高于博士生。

在这位AC负责的所有评审员中,有3位正教授,1位副教授,4位助理教授,9位业界专业人士,以及2位来自国家实验室的人员。其余的是博士后/研究科学家、博士生、硕士生和本科生。

fa168f265f5c4865c2290a3c55cf10ad.png

af4428b20ff91315a359603dbb8038dc.png

对于这届的NeurIPS评审,你怎么看?

参考资料:

https://x.com/papercopilot/status/1818392051995791556

https://x.com/GaelVaroquaux/status/1818953424357970097

https://x.com/sahar_abdelnabi/status/1819082177881297144

https://x.com/qixing_huang/status/1811231112166785414

https://x.com/AurelienLucchi/status/1818625639865327945

https://www.reddit.com/r/MachineLearning/comments/1efscr2/d_neurips_2024_paper_reviews/

 
 

何恺明在MIT授课的课件PPT下载

 
 

在CVer公众号后台回复:何恺明,即可下载本课程的所有566页课件PPT!赶紧学起来!

ECCV 2024 论文和代码下载

在CVer公众号后台回复:ECCV2024,即可下载ECCV 2024论文和代码开源的论文合集

CVPR 2024 论文和代码下载

在CVer公众号后台回复:CVPR2024,即可下载CVPR 2024论文和代码开源的论文合集

Mamba、多模态和扩散模型交流群成立

 
 
扫描下方二维码,或者添加微信号:CVer111,即可添加CVer小助手微信,便可申请加入CVer-Mamba、多模态学习或者扩散模型微信交流群。另外其他垂直方向已涵盖:目标检测、图像分割、目标跟踪、人脸检测&识别、OCR、姿态估计、超分辨率、SLAM、医疗影像、Re-ID、GAN、NAS、深度估计、自动驾驶、强化学习、车道线检测、模型剪枝&压缩、去噪、去雾、去雨、风格迁移、遥感图像、行为识别、视频理解、图像融合、图像检索、论文投稿&交流、PyTorch、TensorFlow和Transformer、NeRF、3DGS、Mamba等。
一定要备注:研究方向+地点+学校/公司+昵称(如Mamba、多模态学习或者扩散模型+上海+上交+卡卡),根据格式备注,可更快被通过且邀请进群

 
 
▲扫码或加微信号: CVer111,进交流群
CVer计算机视觉(知识星球)来了!想要了解最新最快最好的CV/DL/AI论文速递、优质实战项目、AI行业前沿、从入门到精通学习教程等资料,欢迎扫描下方二维码,加入CVer计算机视觉(知识星球),已汇集上万人!

▲扫码加入星球学习
 
 
▲点击上方卡片,关注CVer公众号
整理不易,请赞和在看
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值