caffe中的注意点和理解点

1：在caffe中最后输出的loss是smooth之后的loss，平均了过去N次的loss，在solver中可以设置，把这个值设为iter = 1，就会只输出当前迭代的loss.

2: 有一个可选的参数组shape, 用于指定blob数据的各维的值（blob是一个四维的数据：n*c*w*h）。

dim:0  表示维度不变，即输入和输出是相同的维度。

dim:2 或 dim:3 将原来的维度变成2或3

dim:-1 表示由系统自动计算维度。数据的总量不变，系统会根据blob数据的其它三维来自动计算当前维的维度值 。

假设原数据为：64*3*28*28， 表示64张3通道的28*28的彩色图片

经过reshape变换：

reshape_param {
      shape {
        dim: 0 
        dim: 0
        dim: 14
        dim: -1 
      }
    }

输出数据为：64*3*14*56
3: softmax与softmax-loss的区别：

softmax计算公式：

而softmax-loss计算公式：

4: 层类型：InnerProduct

lr_mult: 学习率的系数，最终的学习率是这个数乘以solver.prototxt配置文件中的base_lr。如果有两个lr_mult, 则第一个表示权值的学习率，第二个表示偏置项的学习率。一般偏置项的学习率是权值学习率的两倍。
必须设置的参数：
　　num_output: 过滤器（filfter)的个数
其它参数：
　　weight_filler: 权值初始化。 默认为“constant",值全为0，很多时候我们用"xavier"算法来进行初始化，也可以设置为”gaussian"
　　bias_filler: 偏置项的初始化。一般设置为"constant",值全为0。
　　bias_term: 是否开启偏置项，默认为true, 开启

5：in-place操作：就是原位操作，不用临时的变量，节省能存的开销

ReLU层支持in-place计算，这意味着bottom的输出和输入相同以避免内存的消耗

6：eltwise层是卷基层的加，减，点乘；concate，链接两个卷积层，slice，一个卷积层变成多个卷基层