总结与展望

2017总结与展望

 2017年宛如白驹过隙，不知不觉就要迎来农历新年。17年是值得纪念的一年。为了满足项目需要及接手师兄手中的工作，我逐渐向机器学习进军。这一年里我从深度学习小白，慢慢转化，到如今已算是入门。

这一年从学习内容上来说，我首先看了吴恩达的机器学习教程，后学习了斯坦福的cs231n的深度学习课程。这两个课程都是比较基础性的，相对来说吴恩达的课程更偏重理论层面，斯坦福的课更加偏向深度学习在不同方面的应用。看这两个课程让我感觉要是北航有这种大牛讲课就好了，因为单独网上来看也就是当时看懂了，练习一般很少到位，这样的结果就是时间长了对相关知识的印象就降低了。为了补足自己编程方面的能力，我学习了《python基础教程》，并参照网上的“莫凡机器学习教程”，进行了实打实的编程练习。学习一种新知识，照猫画虎是最好的方式。因为很多深度学习程序是要在ubuntu系统上运行的，这样方便调试。我对ubuntu及linux以前接触的很少，为了方便自己看懂基础的linux命令，我简单的看了《鸟哥的Linux私房菜》。不得不说要学的东西太多了。接下来还有一部分时间学习了当前主流的几个深度学习库：tensorflow、keras、mxnet等，其中主要学习的是tensorflow。2017年后几个月，我又和实验室几个人一同学习了《PRML（模式识别与机器学习）》，不得不说这本书知识量很大，从开始的数据分布、回归、分类，到后来的神经网络、图模型。目前来说只看到了图模型，看这本书对我的收获很大，缺陷是目前只是看了加理论推导，没有进行的编程练习。

 以上是比较系统的看书和教程学习。科研层面来说，主要看了以下方面的论文：涵盖深度学习基础理论、图像识别、图像语义分割、图像物体检测等。受限于自己的英语水平和对机器学习的理解，我看一篇论文的时间相对较长，但好在我挑了这几年比较基础性的有代表性的论文。主要有：vgg、resnet、spatialtransformation network、deformableconvolution、densenet、capsule，lstm、grid-lstm、crfas rnn、attentionmodel，fcn、deplab，fasterrcnn、rfcn、fpn、maskrcnn，pointnet、mv3d、frustumpointnet等等，以及相关方向的一些综述。看论文的同时，尽可能的找到相关源码，并试着读一读跑一跑。说实话，看论文读源码的过程进步是很大的，而且或多或少的会产生一些自己的想法。

 下面说一下这一年做的工作。相对来说，大部分时间都是在学习。在学习的过程中我对物体检测产生了浓厚的兴趣，幷尝试对fasterrcnn /rfcn进行了改进。改进的过程漫长而艰辛，主要是每次程序跑的时间太长了。这个过程我不得不承认：企业在这方面比高校有较大的优势，主要集中在大牛带队及一般有服务器集群，而我们实验室只能是每人一显卡，另外boss是门外汉（不过好在这一年我学的很自在，没有被打扰）;图片物体检测比较难做，主要是因为大牛们已经深耕了好几年，没啥东西了。

在这里我给要进入深度学习并搞科研的人一点建议：一是最好几个人一起学，尝试共同围绕一个方向展开，这样方便总结、讨论;二是最好围绕最新的东西展开研究，比如Hinton最近提出的capsule，可以在其上建立自己的框架，可以是三维检测、语义分割、物体检测等，这样的好处是这块地是你先挖的，有东西可挖。

 展望新的一年，有以下几个工作等着我：一是继续改进我的物体检测程序，这包括两种改进的fasterrcnn算法;二是尝试向三维物体检测、视频理解进军;三是准备找工作，复习之前学习到的机器学习知识。从结果上来说，尽可能早发一篇好的CV方面的论文，拿到满意的offer。

 新年快乐，狗年大吉！

2018.2.1