【Caffe实践】 添加自己的网络层

写在前面：

Caffe 中有众多的网络层，最新版本的代码已经涵盖了很多种类型的网络层，然而，有时候由于各种原因，其给定的网络层不能满足我们的要求，这时候就要对其更改，以使其满足自己的需求，感谢作者开源代码以及众多的代码维护者。

由于Caffe 中的网络层都是直接或者间接地给予Layer 基类，所以，在我们需要添加新的类型时，就需要选择好自己的基类，以使我们能够更好的利用基类已有的一些方法。我们新建的类可以基于
1. 直接继承于Layer
2. 继承于DataLayer
3. 继承于NeuronLayer
4. 继承于LossLayer
5. 或者如果是直接想改进某个层的代码，可以直接继承该类，并做相对应的修改即可。

具体步骤：

第一步， 添加头文件.h ,可以自己新建一个头文件，或者追加到一个已有的头文件后面，比如include/DataLayer.hpp 等, 在里面定义一些类变量等。

第二步，添加实现文件，创建类的实现函数，放在src/XXX.cpp 中，如果有cuda实现，则需要添加相对应的.cu文件实现，主要需要写LayerSetup ，reshape ，forward ，backup 函数。

第三步， 注册类，到src/caffe/layer_factory.cpp 中添加对应的类，在其中加入

REGISTER_LAYER_CLASS(MYLAYER, MyLayer);

第四步，在src/caffe/proto/caffe.proto 文件中，添加对应的类以及类参数。
在enum LayerType {}中添加一行

enum LayerType {
MYLAYER = ID 
}
//其中MYLAYER 是新添加的类名，ID是类编号，注意不能更之前的重复。

再添加类参数

optional MylayerParameter mylayer_param = ID2;
//其中MylayerParameter 是网络层参数，ID2 是ID

最后定义类参数

message MylayerParameter {
  optional uint32 myparam1 = 1; 
  optional bool myparam2 = 2 [default = true]; 
}

第五步，写测试文件，这个是可选的，不过为了合并到github中，需要测试通过。