![](https://img-blog.csdnimg.cn/20201014180756780.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
CNN原理
HaoRenkk123
love c++++++++++
展开
-
batchnorm原理理解
接触CNN也一段时间了,最近也到了秋招期间,面试的时候可能会问到的一些内容需要做一个整理CNN-BN层参考了一个大神的博客,感觉讲的很深入也很好理解。我这里主要是对他的博客做一个自己的归纳整理,主要是为了方便自己去理解,也欢迎大家一起讨论自己的理解。这里给出大神的博客地址:https://blog.csdn.net/qq_25737169/article/details/79048...原创 2018-09-02 12:00:11 · 8876 阅读 · 0 评论 -
深度学习超参数理解
这篇博客是对深度学习中比较重要的或者常见的超参数做一个整理笔记。1:learning rate()学习率决定了权值更新的速度,在迭代更新权值的过程中,设置过大容易使训练的模型跨过最优值,导致过拟合;设置过小会使梯度下降过程过慢。这个参数是根据经验和不断实验来设置。2:Weight decay()为了避免过拟合,必须对目标函数cost function(损失函数一般也叫价值函数)...原创 2018-09-11 19:28:49 · 8131 阅读 · 0 评论 -
caffe权值初始化方式
在caffe/include/caffe/目录下有一个滤波器的权值类头文件,即filler.hpp文件。该Filler类的作用实际上就是根据prototxt文件中的weight_filler参数如下所示: 既然是权值要初始化,除了调用预训练模型的参数外,初始化的方式总共有几种呢,在filler.hpp文件中定义了7种初始化方式:分别为常量初始化(constant)、高斯分布初始化(gauss...原创 2018-09-05 20:50:36 · 2647 阅读 · 0 评论 -
MobileNet_ssd原理
之前实习用过太多次mobilenet_ssd,但是一直只是用,没有去了解它的原理。今日参考了一位大神的博客,写得很详细,也很容易懂,这里做一个自己的整理,供自己理解,也欢迎大家讨论。先整理MobileNet 这里奉上大神的博客地址:https://blog.csdn.net/u013082989/article/details/77970196 论文地址:MobileNets: Effic...原创 2018-09-03 23:20:24 · 45652 阅读 · 14 评论