一、有价值的科研工作应该有什么特点?
有价值的科研工作(V)=有意义的问题(Q)+好的idea(I)+严谨全面的实验(E)+清晰达意的写作(W)
二、计算机顶会投稿流程
(1)确定方向领域
(2)阅读相关文献综述,定义好问题
(3)寻找idea,创新点
(4)设计方法并开展实验
(5)不断修正,撰写论文
(6)润色论文,投稿,积极回复审稿意见
(7)中稿
三、好的科研习惯
(1)维护论文阅读笔记
阅读文献的方法
三步论文阅读法
- 解决什么问题?
- 创新点和方法是什么?
- 结果和结论是什么?
维护一个笔记,记录以上三个问题,对自己和研究问题相关的论文进行系统性梳理
(2)深入理解任务,写博客和笔记
(3)详细的数据统计分析,清楚的指导自己的实验目标
(4)及时和领域内大牛讨论(和导师讨论,询问导师建议),和其他研究者交流
(5)做好每个阶段的复盘和研究反思,走错方向及时纠正
(6)做实验一定要想清楚再做,没有太多的时间试错
四、常见的错误
(1)一问三不知,不知道哪里好,哪里不好,为什么好,为什么不好。所谓知其然,须知其所以然
(2)文献调研不充分,idea和别人的重复,投稿的时候才发现
(3)选择的领域过于陈旧,并不是陈旧的领域不好,而是有的陈旧的领域已经被很多人研究透了,不太容易发文章,在这些领域发文章的往往是这些领域的大牛
好方向的几大标准
前沿性
重要性
复杂性
传承性
可行性
选方向的技巧
在选方向时问自己几个问题:
(1)这件事情很重要吗?
(2)这件事我做有什么优势?
(3)这件事为什么以前做不了?
确定具体研究问题时,问自己:
(1)方向的终极目标是什么?(解译出所有的视觉符号、通用语言理解...)
(2)是什么阻碍了这个目标的实现?(时空信息挖掘不充分,网络做不深,过平滑)
(3)这个问题我目前有条件做吗?(数学功底,算法能力,算力,工程人数...)
(4)缺乏交流。“独研而无友,则孤陋而寡闻”。后期自己才发现很水,idea错误
(5)对科研过于理想化,项目/科研/系统
(6)不爱动手做实验,缺乏分析实验结果,寻找insight的过程
五、硕士研究生方向选择时间点
- 研一上学期上课,进组学习为主,进行文献阅读,提高知识的广度
- 研一下学期完成学业要求,确定大致的方向,论文复现,硕士开题,提高对特定领域,问题的知识深度
- 研二上学期(含暑假),在导师的指导下,完成第一个投稿周期,会议/期刊,完成方法设计,实验设计,论文写作(3-6月)
- 研二下学期论文中稿,申博的同学拿着学术成果去找之后的导师(校内/校外),工作的同学找企业里对应方向的组去实习,准备秋招
- 研三上学期,总结成果,在对应的导师或者企业的组里继续深入研究。
- 研三下,写毕业论文,拿毕业证,各奔东西(读博、工作、创业)
六、发paper如何寻找创新点?
(1)系统。做一个好的系统也能写一篇好的文章,但是往往工作量很大,没有一定的工作量不容易发表文章,并且需要展示出系统的意义和创新性。做一个好的研究,也可以最终转化为一个好的系统,很多博士论文的最后一章是研究成果的系统验证。但是,并不是所有的系统都适合发文章,以做系统的思路去做论文容易被审稿人认为是拼凑,incremental,这将是一个很强的拒稿理由(not novel, no contribution)。
(2)开拓新的领域,提出新的问题
- LLM+Agent,ImageNet
(3)理论层面进行基础创新
- Score-Based Generative Modeling through SDE
(4)针对特定的问题,提出新方法
(5)结合以前的方法,做新系统
(6)给人看待问题的新角度
创新点的模式总结
(1)A到B,一个在A领域有用的idea,方法,把A进行修改,用到B领域。
Deformable对CNN有用
验证Deformable对Transformer也有用
(2)A-B,某一个问题的解法A,一定需要B作为它的组件吗?
(3)解释一个问题为什么存在,从而针对这个点提方法
(4)对前人做实验的方法进行总结分析
(5)对模型进行基础性的改进
(6)借助成熟的方法体系
(7)定义一个新问题
(8)对某一个问题进行系统性分析
(9)统一benchmark,从实验中发现一些insight
(10)从老的领域,发掘出新东西
七、为什么要做实验?
做实验的目的是为了验证论文核心和假设是成立的
- 模型是否涨点?
- 可视化结果是否和intuition相符?
- 到底哪些类别解决了,哪些没有解决?
- 如果把模型拆解了,哪一部分是最薄弱的点?
- 提出的观点,是不是和实验相符?
一定要带着问题和目的去做实验,做好记录
八、如何设计好实验?
选择好的baseline,熟悉相关的环境,评价指标
根据你想要验证的假设,对baseline进行增减
每次只改一个东西(模块,超参,训练方式)
先验证主要结论,再验证次要的
从多种角度印证文章核心的点,增加说服力
消融实验
多种手段,量化指标,可视化,降维图,系统展示