caffe基础-04激活函数层的配置

最新推荐文章于 2018-10-16 21:53:39 发布

跬步千里OvO

最新推荐文章于 2018-10-16 21:53:39 发布

阅读量442

点赞数

文章标签：激活函数层

本文链接：https://blog.csdn.net/Terrenceyuu/article/details/76224198

版权

caffe 专栏收录该内容

14 篇文章 0 订阅

订阅专栏

caffe基础-04激活函数层的配置

#在激活层（接在每个卷积层后）中，对输入数据进行激活操作,是逐元素进行运算的,在运算过程中，没有改变数据的大小，即输入和输出的数据大小是相等的。

###Sigmoid （求导导致0，不使用）


layer {
  name: "test"
  bottom: "conv"
  top: "test"
  type: "Sigmoid"
}

#ReLU是目前使用最多的激活函数，主要因为其收敛更快，并且能保持同样效果。标准的ReLU函数为max(x, 0)，当x>0时，输出x; 当x<=0时，输出0
f(x)=max(x,0)



layer {
  name: "relu1"
  type: "ReLU"
  bottom: "pool1"
  top: "pool1"
}