AI 大神 Chris Olah：在你的领域，如何培养好的科研品味？

                                                                            Fly-AI竞赛服务平台 flyai.com

在开始学习之前推荐大家可以多在   FlyAI竞赛服务平台多参加训练和竞赛，以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例，支持算法能力变现以及快速的迭代算法模型。

 关注“FlyAI社区”公众号，后台回复“AI”即可获取英文原文链接

要成为一名研究人员，最重要的一个方面就是培养科研品味——大致来说，就是选择好问题去解决的能力。但要明确地培养品味是很难的，所以我想分享一些具体的、可执行的操作。

在我们开始练习之前，值得思考的是，为什么很难培养研究品位？我认为最根本的问题是，真正测试你提出的研究想法是否好，代价是非常很高的的。往往需要几个月的时间，所以你每年只能得到几条关于你品味的反馈。下面的许多练习实际上是快速获得更多研究想法反馈的策略。你得到的反馈通常比你自己执行想法的质量要低，但这些方法的目的是让你得到更多的反馈。

对所有这些练习和建议持保留态度。我认为我的品味比以前好多了，做这样的事很有帮助。我也认为这些练习对我偶尔指导或管理的同事也有帮助。但我不是专家。

还有一点：我不建议强迫自己去做一些你不感兴趣的事情，即使你理智地认为它会很重要，但你的效率会低很多。理想情况下，你应该达到一个这样的程度，就是最重要的问题应该能让你感到极度兴奋。

练习

练习1:列出研究想法的清单。找一位导师，让他给每个想法打一个分数1-10。然后和他讨论你不同意的观点。

相比通常需要几个月才能验证研究想法。请教导师是极具性价比的方式。

练习2:当别人尝试你的研究想法时，需要注意将他的结果和你的预期相比怎么样？

当你投入精力和别人头脑风暴时，你也可能会有数十个研究想法想要去尝试。如果别人实现了你的想法，并发表了论文。那么，你可能会感到不舒服，但这是一个免费获得宝贵反馈的机会。

练习3：采访你周围的研究人员，了解他们的审美。弄明白他们为什么要努力解决他们所面临的问题?他们是如何挑选问题的?他们研究的“蓝图”是什么?

额外好处：如果感觉采访很棒，可以考虑获得允许后，把这些东西写下来。

（另外，大多数博士生经常会和访问他们实验室的研究人员开一些简短的会议。目的之一是向来访者介绍他们的项目，如果他们没有类似的兴趣，便可能没有什么成效。我猜测他们会从元研究中得到更多启发。）

练习4：阅读有关科学史的书籍。反思为什么一些研究者把注意力集中在被他们同时代人所忽略的重要方向上。

注：库恩的《科学革命的结构》是我最喜欢的书之一，并且你可以得到一本有声读物！）

练习5:批判性地思考你的研究品味，以及你周围的社群品味。你的品味很可能会受到你的研究集群(合作者、顾问等)的影响。

在过去几年里，你自己的研究或你所在的社群的看法在哪些方面是错误的?

是否有相邻的研究“流派”具有明显不同的研究审美?如果是这样，试着说出他们最强烈的观点，以及你同意或不同意的原因。

你在哪些方面不同意你自己社群的研究审美?你认为你的社群在哪些方面可能是错误的，即使你对这种观点没有信心？

你研究品味的根本目标是什么？这可能仅仅是本质上想要了解，或者只是寻找研究的乐趣。但也有一些方法可以让世界变得更美好。你正在解决的问题（或你认为有趣的问题）是否与这些目标有关？

失败方式

我也想列举一些失败的研究品味的模式：

失败模式1：过于依赖一个研究方向/陷入沉没成本。

许多研究人员开始研究一个问题(通常是由于环境而不是预期的决定)，然后发现很难继续下去。

可能的解决办法：留出一到两周的时间，后退一步，列出你认为最有前途的其他研究方向，（可以看看新的研究，与他人交流，等等）。然后问一下如果你从头开始，你想做什么。根据需要每1-2年重复一次。

失败模式2:缺乏背景知识或者亲密感。

理论知识是研究品味形成的重要因素，因为你的研究品味不可能凭空得来。

有时，人们陷入了一个陷阱，试图在动手之前就选择一个完美的问题或有一个卓越的见解。然而你的研究审美不可能凭空的来，因此你需要理论知识和研究亲密感。

可能的解决办法：在你感兴趣的领域帮助别人完成他们的项目。你会发现在亲力亲为的这个过程中也会学到很多东西，并且不用过度投入到长期的工作中。理想情况下，如果不担任项目的领导，能够让你比较轻松。或者做短期项目保持一直在练习的状态。

失败模式3：环境与你的兴趣不一致。

我有时会和一些博士生交谈，这些博士生和他们的导师有不同的兴趣，他们试图把自己的研究兴趣扭曲成他们导师喜欢的东西。这通常会形成一些为了妥协而不是为了质量而进行优化的想法。如此一来，会导致不甚理想的研究，也会让你失去建立研究品味的机会。

即使你周围的人名义上支持你从事任何你感兴趣的工作，上述情况也会发生。而当你周围的人都缺乏热情的时候，要追求一个方向是很有挑战性的。

可能的解决办法:（1）要么搬到一个与你的兴趣相一致的环境，（2）要么暂时融入你的社群，并尝试在这些兴趣范围内锻炼良好的研究品味。我通常认为，一旦你对自己感兴趣的东西进行了大量的思考，并拥有了自己感到非常兴奋的东西，你就可以跳到另一个环境中去。

他人的建议

在twitter的讨论中（尤其是Andy Matuschak的一个帖子），许多人提出了其他的想法。请注意，所有这些都是“培养品味的练习”（很多都是“培养良好品味的策略”），但我认为它们非常有趣：

Rachel Prudden 建议
想象另一个小组发表了你脑海中的论文。你会对读到它而感到兴奋吗?

Chris评论道：我认为这是一个很好的启发式。

Andy Matuschak 建议 关于你的观点提出的反向问题。在你的领域里最有趣(但不重要)的问题是什么？你为什么不去做呢？Chris评论道：这是一个很好的问题。另见汉明著名的"你和你的研究”演讲。

Andy 也分享了一个失败模式:
当一个想法看起来容易接受的时候就跑去实现它。有一个可行的方法让我很兴奋，我想去做！但是，如果我对一个想法思考得久一点的话，我通常可以进化出一个更深层次的变体，并用它来代替。

Michael Nielsen的有效研究原则(via Shrey Jain)指出了关注混乱领域的价值:

当你发现“混乱”时，很多人第一反应是回避，去寻找更容易理解的东西。但一个混乱的领域其实是一个机遇。很有可能会有一些深入的统一和简化的概念仍然等待着某人——的理解和发展——也许是你。

Arthur Allshire

你所在领域的瓶颈问题是什么?如在许多强化学习的研究中，很多关注的是对算法的细微调整，但最大的改进来自于对RL的模拟的改进。

Preetum Nakkiran

我发现写短期的“项目建议书”和长期的“研究陈述或计划”是思考动机和目标(在不同的时间尺度)的很好的练习。我所谓的“项目提案”是指：一旦你决定花超过1个月的时间在什么问题上，那么不妨写下几页文字来告诉自己：为什么这个问题是有趣的，为什么这个答案是有价值的，以及你希望找到什么(比如初始证据)，然后得到反馈。

…另外，建议你向你遇到的每个人询问他们的“大蓝图”研究目标。因为这非常有趣和重要，但一般不会出现在论文上。

Christian Szegedy

不过，事后看来，我在研究中所犯的大多数错误都是因为我听取了我尊敬的导师的批评，而我所做的大部分很酷的东西，最初都被大家认为是无用的、无趣的，或“祝你好运！”...一般来说，研究中的想法要么领先于其他想法，要么挑战传统观念。加入后一种阵营需要较少的技巧，但需要更多的勇气。

Chris评论：我认为很有道理，但是要注意幸存者偏差，记住不同的人在他们职业生涯的不同阶段可能有不同的科学成熟度/品味。我华裔许多博士生会发现，从一开始就制定自己的研究议程是非常具有挑战性的，因为成长或许会让他们改变想法。

Sergey Gorbunov

关于研究品味，我对研究生或初级研究员的唯一建议是“不要”听你的导师或知名研究员的话……因为研究生院是唯一一个让你有机会尝试和失败的地方。研究生应该想出非常规的问题或者解决方案。(因为已建立的研究有自己的流程和思考方式 😂)。同样这个建议也可以用来推翻自己。😂

Boaz Barak

我喜欢“20/80项目”，即你做了80%的工作却实现了20%的目标：

而不是问“我用最小的努力能得到的最好的结果是什么?”或者“我能否找到足以概括出主要障碍的问题，即使最终结果听起来并不怎么样?”

致谢

这些年来，我对无数研究哲学的人心存感激。

感谢 Nick Cammarata对这些练习的讨论。

感谢 Ryan Saxe和Abinav 纠正了拼写错误。