在研究生学习阶段,科研能力是核心能力,但是万事开头难,谁也不是一开始就懂得科研的那些事的~~特别对于没人指导、又不善于沟通交流的研究僧来说,想必科研入门就是一道首先必须迈过的坎儿!这里简单整理分享一下科研入门的那些门门道道~~供未来的自己和大家一起参考
一、如何想Idea
Idea只分两种,一种是自我创新或者说目标驱动型的研究(goal-driven research),也就是针对自己想要实现的目标提出的Idea。另一种是跟随创新或者说Idea驱动型研究(Idea-driven research)。指的是通过阅读他人的论文或者技术文档,然后针对性提出改良的Idea,这两种Idea各有优缺点,具体分析如下:
自我创新或者说目标驱动型的研究
首先,设定一个自己的长期科研目标。
比如,让ChatGPT拥有身躯,实现一个有自己身躯的AI agent。
然后,规划实现该目标的roadmap,制定一组重要的任务。
最后,根据研究空间与学术界的技术发展情况,选择合适的任务。
跟随创新或者说Idea驱动型研究
1.1如何制定roadmap
最重要也是最难的一步,可以通过literature tree帮助自己:①列出自己科研方向的大多数论文;②通过阅读论文,梳理出当前方向已有的Milestone tasks,并标记提出该task的第一篇论文【1类novelty】③将论文根据milestone tasks进行归类。梳理出有代表性的pipelines/representations,并标记提出该pipeline/representation的第一篇论文【2类novelty】;④根据pipeline/representation再细分,归类论文【3类novelty】。
1.2如何发现需要解决的failure cases
①探索算法的上限,尝试更具有挑战性的cases(通常是数据);
②在新的task setting 或者新的数据上容易发现新的failure cases.
注意:在新数据上探索方法的可能性,让大家看到新的实验结论,这是很大的贡献。
1.3如何构思解决failure cases的方法
怎么去提有效的解法:积累自己的武器库。(背后的道理:很多任务中存在相似的technical challenge,而解决这些technical challenge的技术是通用的)
怎么积累自己的武器库:我的做法是构建challenge-insight tree。帮助自己知道这个研究方向存在哪些technical challenges,而有哪些techniques/insights在尝试解决这些technical challenges。
1.4特殊的想idea的情况
当出现新锤子的时候,非常值得拿新锤子来做自己roadmap上的某一个milestone task,这样容易做出有影响力的工作。
例子:NeRF出来的时候,出现了VolSDF、NeuS。Stable diffusion出来的时候,出现了DreamFusion。
二、如何做实验
2.1如何设计简单实验快速验证解法的正确性
什么是简单实验:只存在core technical challenge的实验
通过简单实验验证解法的好处:
1.实验成本低
2.不存在其它technical challenges的干扰,可以更好确定当前的解法是否work
2.2改进解法、畅享更多解法
三、如何写论文
以上就是分享的全部内容~~
本文干货及图片引用自:完成一篇论文的科研历程与经验-彭思达-SPP 第57期:完成一篇论文的科研历程与经验-CCF数字图书馆