授人以鱼不如授人以渔,红鲤鱼家有头小绿驴叫驴屡屡。至于修改网络结构多亏了课题组大师姐老庞,在小米实习回校修整,我问她怎么修改网络,她说改网络就是改协议,哎呀,一语惊醒梦中人啊!老庞师姐,你真美!虽然博主之前也想过修改网络协议试一试,鉴于一直不懂网络结构中的各个参数是干啥的,所以一直没去实施,这次终于开始尝试了。
caffe平台实现卷积神经网络实在方便的很啊,只需要一个协议文件定义一下网络结构,再定义一个超参协议文件即可。这里请注意我的措辞哈,只是介绍如何修改网络结构,而不是如何合理的修改网络结构,什么样的网络才是好的,这暂时还没有一个明确的定义,大多数研究者还处于试一试的阶段,如果谁能把这个问题搞清楚,估计能拿一个图灵奖了。
开始trian。
以Alexnet为例
原始的Alexnet是这个样子的(页面问题只可视化部分好了):
相应的协议文件中的部分:
layer {
name: "conv3"
type: "Convolution"
bottom: "pool2"
top: "conv3"
param {
lr_mult: 1
decay_mult: 1
}
param {
lr_mult: 2
decay_mult: 0
}
convolution_param {
num_output: 384
pad: 1
kernel_size: 3
weight_filler {
type: "gaussian"
std: 0.01
}
bias_filler {
type: "constant"
value: 0
}
}
}
layer {
name: "relu3"
type: "ReLU"
bottom: "conv3"
top: "conv3"
}
layer {