作者 | 琰琰、维克多
近日,ACM Fellow、美国里普罗维登斯布朗大学计算机科学卓越教学的罗伊斯家族教授迈克尔·利特曼(Michael L. Littman)在ACM通讯上发文,痛斥部分学者威胁计算机科学研究的完整性。
ACM通讯(Communications of the ACM,CACM)是ACM面向所有会员发行的期刊,是最久远最受尊敬的计算机期刊之一。
在文章中,迈克尔指出了一个或许普遍存在,但却没人注意的学术道德现象:共谋。
即几位作者提前串通好,将他们的论文提交至顶会,并相互告知自己的论文标题,故意违反盲审规则,并造成重大未披露的利益冲突。
另外,这些共谋的作者会争取成为这些论文的审稿人,对论文做出非常正面的评价,甚至在其他评审者不知情的情况下,通过其他渠道游说领域主席。
更有甚者,如果其他评审者有影响评审结果的可能,这些共谋者会向这些评审者发送威胁性电子邮件。
至于采取共谋的原因,迈克尔分析,顶级会议、期刊中的署名论文数量和研究者的声誉、晋升息息相关。
文章中,迈克尔并未点名哪个会议、期刊,或者学者有这种情况,但却指出,这确实是普遍存在的现象,并且已经威胁到了学术研究的公正性和可持续性。
以下是迈克尔文章的原文,AI科技评论做了不改变原意的编译:
文章链接:https://cacm.acm.org/magazines/2021/6/252840-collusion-rings-threaten-the-integrity-of-computer-science-research/fulltext
对于评审过程,我想介绍一下几个重要的特征,这些特征并不是某个会议专属,至少和我参与组织的那三、四个会议高度匹配。
1.同行评审过程通常由程序委员会"执掌",委员会一般由1~2个程序主席,几百名领域主席,以及几千名评审组成。具体评审实施中,会要求审稿人说明是否有利益冲突情况,以求论文审核的公正性。
2.论文提交的时候,要求“隐”去名字,这也是俗称的盲审。值得一提的是,某著名会议去年接收了一万份论文提交,而在六年前,此会议论文提交的历史记录还仅是1000份。
3.审稿人在审稿前会根据论文的标题以及摘要进行评估,这篇论文是否符合自己的专业领域,如果符合,则进行“投标”。
4.审稿人审核哪篇论文是由程序主席决定,领域主席在分配论文的时候,会充分权衡评审的专业领域以及利益冲突情况。
5.评审阅读分配的论文,然后提交评审意见,评审之间可以相互分享对“共同负责”论文的看法,从而得出一致的结论(接收/拒绝)。领域主席和程序主席也会根据这些评审的建议,为会议制定规划。
一个顶级会议,一般来说接受率在15%~25%之间,并且大多数会议一年只允许发表一次论文,如果被“拒”,风险非常高。因为,“被接受”往往和研究者的声誉和职业生涯相关,在某些国家,知名会议和期刊上的论文数量,还是评估是否晋升、是否提高薪酬的硬指标。
基于此,研究者非常重视自己的工作,想尽办法让自己的工作能够做到尽善尽美。通常,在临近会议要求的论文提交的截止日期一两个星期内,研究者们是最忙的,废寝忘食是这一时间段的关键词,通宵达旦是常见的工作节奏。但即使如此,仍然无法保证论文“被收录”。
原因之一,评审过程是出了名的随机。例如,2014年的NIPS(现在改名NeurIPS)将会议的评审分组成了两个独立的评审委员会,然后让这两个委员会审查10%提交的论文,结果是:60%的被一个程序委员会接收的论文,在另一委员会被拒绝。
这也表明,许多论文的“命运”与审稿人有关,论文本身的内在价值也只是影响因素之一。
为了提高他们的论文接受率,有的人选择努力提高论文质量,也有的人选择投机取巧走捷径,甚至不惜作弊。
迈克尔·利特曼教授在文中揭露了一种作弊行为:勾结团伙。他说,虽然没有确凿的证据,但调查人长时间的详细调查和分析,让我没有理由怀疑他得出的结论。
以下是共谋团伙的操作手段:
几位作者提前串通好,将他们写的论文提交至顶会。
他们相互告知自己的论文标题,故意违反盲目审查规则,并造成重大未披露的利益冲突。
他们采取各种手段,尝试成为这些论文的评审员。
他们对这些论文做出非常正面的评价,甚至在其他评审者不知情的情况下,通过其他渠道游说区域主席。
如果他们如期审核到了这些论文,而其他评审者可能会影响评审结果,他们有时会向这些评审者发送威胁性电子邮件。
在论文讨论过程中,有些串通者会临时在网上会议管理系统中更改名字,这也许是为了避免因支持质量较差的论文而名声扫地。
如果这些行为没有被发现,那么它所带来的直接影响是,这些采取了不道德手段的且低质量的论文很可能被顶会接收。由于大部分顶会都会限制论文提交的数量,这些行为也会间接地导致更有价值的论文被拒收。更重要的是,顶会质量和整体的完整性,也会因此而受到影响。
学术界必须对共谋行为作出有力回应,警告这些作者和评审者,他们的行为是完全不可取的。
事实上,除了警告之外,还没有更好的干预措施来压制他们的这种共谋行为。据了解,顶会的组织者正在权衡数十项提案,但这些提案都存在一些潜在的漏洞。更好的论文分配技术将有助于弥补一个正在被利用的漏洞。但是,如果没有更好的调查工具,我们可能永远也无法追究共谋者的责任。
科学研究是一项需要深度合作的工作,但也处处充满了竞争,除了资金资源的抢夺,注意力、关注度也成为研究人员的“必争之地”。
但需要承认的是,大多数研究人员认为他们的工作是为了寻求更深层次的理解,而不仅仅是一种“支付账单”的方式。
因此,目前来看,同行评审过程主要还是由“诚实”的参与者组成。但是,危险随时存在,一旦不道德的行为普遍化,“诚实”的联盟将土崩瓦解。所以,现在是时候密切关注同行评审过程并调整激励机制了,确保每个人都在努力分享尽可能好的研究成果。
网友评论
这篇文章发表后,迅速登上了Hack News热榜第一,短短几个小时评论就超过了200多条。
一位网友愤怒地表示,这种行为很常见!
他说自己的一位同事花了九个月的时间完成的一篇论文,投给一个高质量的期刊后被拒收,对方给出的理由是:实验缺乏新颖性。然而在被拒之前,他发现一篇类似的研究论文发表在了arXiv上,而这篇论文采取了同样的实验方法。
还有一位网友悲观地表示,这种行为很难杜绝。
他说,只要影响因子、引用量等指标仍在一定程度上决定学者的职业发展轨迹,剽窃、共谋等学术不端行为就不会消失。对于他们而言,只要不引起丑闻,学术“不诚实”会带来巨大回报。
一位网友表示,类似的行为也开始在其他领域上演。一些学者习惯将论文发布到预印服务器上,给人一种被出版的错觉。而一般读者可能无法区分已发表的同行评议论文和在预印服务器上论文之间有何区别。
这在学术界并不会造成很大的影响,但是却可以愚弄非学术类读者。我不确定它是否或如何转化为CS论文,但随着出版速度的加快,跳过同行评审会变得越来越普遍。
有网友还表示,如作者所说,即使科研系统按规则“运行”,论文的质量也与接收几率无关。我们应该多花一些精力来研究这种共谋行为,以开发一套更好的评审程序。
对于论文质量与接收率无关的说法,一位网友表示这过于悲观,他说NeurIPS虽然表明,一个PC接受的论文中约有60%会被另一个PC拒绝。而这不意味着“论文质量与其接受率几乎无关”。它可能只是一个论文质量的门槛,一旦跨过去会有更多的可能。
“我个人对NeurIPS的看法是,有40%可能是不良论文,5-10%是非常有价值的论文,还有部分质量中等,其中很多都是靠运气或者吸引评审者而被接收的。虽然质量不是很好,但也不能只将它们剔除。”
参考链接:
https://news.ycombinator.com/item?id=27295906
重磅!DLer-AI顶会交流群已成立!
大家好,这是DLer-AI顶会交流群!首先非常感谢大家的支持和鼓励,欢迎各位加入DLer-AI顶会交流群!本群旨在学习交流人工智能顶会(CVPR/ICCV/ECCV/NIPS/ICML/ICLR/AAAI等)、顶刊(IJCV/TPAMI/TIP等)写作与投稿事宜。包括第一时间发布论文信息和公开演讲视频,以及各大会议的workshop等等。希望能给大家提供一个更精准的研讨交流平台!!!
添加请备注:AI顶会+学校/公司+昵称(如CVPR+上交+小明)
???? 长按识别添加,即可进群!