caffe框架研究(一)

最近一直在研究caffe源码，将一些心得体会记录下来，以便以后查阅。

首先记录一个c++ template的知识，caffe大量使用了template，但貌似只支持float与double类型的数据。定义了template的函数，如果在.h文件中声明，在cpp文件中定义的话，在其他的文件include头文件之后再调用此函数，会出现无法解析的外部符号的错误，这是由于template的函数定义与声明应该放在一个文件中进行，不要像我们写其他代码的时候习惯性的建立两个文件，因为在你的调用文件中include了头文件，但头文件中只有template函数的声明，template比较特殊，只有实例化之后链接器才能找到其位置从而进行调用，所以我们只include头文件，链接器还是不知道这个函数在哪里，具体怎么执行。所以template函数定义与声明都放在一个文件下就可以了。这样链接器不需要去其他的c文件编译出来的obj中找函数，所以就不会出现错误。（因为这个函数就在你这个文件中，不需要链接其他的）。但是如果我们觉得写在一个文件中封装的感觉就没有了，还是想分别建立h与cpp文件，其实也是可以的，就是在cpp文件中对template函数显示实例化，具体就是给template一个具体的类型（float，int等等），而调用它。这样编译器在编译这个cpp的时候就知道template的函数的具体定义了，链接器也能找到它。

所以，记录的第一个知识点就是显示实例化，caffe中叫做//Explicit instantiation

第二个知识点是convlution_layer的实现过程，caffe中不是单纯的做卷积运算，而是先把要做卷积的图像执行im2col函数（应该是跟matlab学的），将图像转化为很大的一个矩阵，跟filter直接做内积，来得到卷积结果，这种方式虽然将本来占用空间不大的图像变成了很大的矩阵（因为这个矩阵有很多重复的数，卷积每走一步，还是会有很多重复的点参与运算，自己考虑），内存占用大了，但是代码看起来会比较清晰，速度也能提高（因为调用了矩阵乘法的加速库blas等等）。比如以下code：

先执行了im2col函数，然后执行caffe_cpu_gemm就是矩阵乘加，1.是alpha，0.是peta，这个函数的意义是最后一个参数等于alpha*weights*col_buff+peta*output，当然都是矩阵的首指针。weight就是卷积核的权重，col_buff就是将输入图像变形了的矩阵。cpu_data与mutable_cpu_data函数可以理解为把caffe中封装的blob类型的变量取址，赋给我们需要用的变量参与运算(如float*，double*等)。加个mutable就相当于我们要改变这个buffer中的值，比如output，不加就是只读取这个buffer的值让他参与运算，并不改变它的值，如input和filter weight。

以后还会有很多知识点的记录，争取将caffe中比较重要的知识都涵盖到