如何理解深度学习就是一个“积木游戏”，浅谈深度学习的创新点与实验

如果你是刚考研上岸的科研小白，大概率问老师的第一个问题是：研究生期间研究什么？

通常老师会告诉你一个大概的方向，比如说自监督学习现在很火，去关注一下。

 

如果再进一步问老师，那我具体怎么做呢？老师可能会让你先去充分调研一下，先看论文。或者让某个学长先带带你；而学长很可能也会告诉你多看论文。

这可能是很多同学的现状。

所以又回到最开始，怎么去做文献调研呢？

这里我总结了一些方法。

读论文——入门

中文期刊综述+中文博客+Github资源

如果我们是刚刚入门某个领域，这个时候建议先从中文期刊综述开始，这样阅读起来比较轻松，更能够理解，还可以看一些中文博客，比如知乎，经常刷知乎的同学，可能会发现知乎上有一些号主，会经常分享一些干货，比如对论文的详细解读；还有一些公众号、博客等。当然在我们读论文的时候，我们还可以通过Github获得关于论文开源代码、公式等等的信息。

读论文——深入了解

顶会survey+顶会tutorial+Paper-with-code

如果我们对某一个领域已经有了一定的了解，希望做一些深入的研究，深入去了解一下这个任务到底是什么？这个时候我们可以看一些顶会顶刊的survey、综述，因为通常这些文章都是国外的大牛写的对某个领域总的研究历程的总结回顾，或者对未来的研究方向的展望。我们看完之后，对整个发展脉络会有一个比较清楚的了解。

 

其次，我们还可以看一些顶会的tutorial，一般每个会议都会“讲习班”，之前线下会议的时候我们需要去现场参与，最近两年因为疫情的原因，很多是通过线上直播的方式去做一些分享，我们还可以在b站上找到相关的回放，通过类似“讲习班”的分享，是非常好的深入了解一个领域的方式，还有一个网站叫Paper-with-code，会有一些公开了代码的paper，我们可以直接找到它的代码进行学习。

读论文——定点突破

Follow领域内做得最好的学者和机构

如果我们对研究领域已经有一些深入的了解，可能就需要定点出突破了，这个时候我们可以直接follow这个领域做的最好的学者或机构，我们可以发现他们的一些idea，或者关注一下他们做了哪些问题，比如现在比较受关注的何恺明大神，他提出了一个什么新东西，这些知乎上都会有解读。最直接的就是我们去关注他的主页，去看一下他最近的工作。

 

如果你研究自然语处理的话，清华大学的刘智源老师，孙茂松老师，他们团队有一些非常强的研究者，他们组经常会推出一些工作。或者关注一些比较强的机构，对于研究方向的最前沿的信息，能够及时获取，做到知己知彼，百战不殆。

文献调研tips——

①找导师或学长推荐5-10篇必读的经典论文：新手入门，通常是从几篇必读论文起步的。清华大学NLP组维护了一个自然语言处理的阅读列表（https://mp.weixin.qq.com/s/UmkISRyTrAhUW1eG4VFrRA），其中有必读论文。建议先读一下。

②ACL Anthology：网址：https://aclanth