深度学习有关知识点
2014wzy
这个作者很懒,什么都没留下…
展开
-
详解梯度下降法的三种形式BGD,SGD以及MBGD
在应用机器学习算法时,我们通常采用梯度下降法来对采用的算法进行训练。其实,常用的梯度下降法还具体包含有三种不同的形式,它们也各自有着不同的优缺点。下面我们以线性回归算法来对三种梯度下降法进行比较。一般线性回归函数的假设函数为:对应的损失函数为:(这里的1/2是为了后面求导计算方便)下转载 2017-03-24 09:27:54 · 2400 阅读 · 0 评论 -
Caffe Blob Dtype理解
Blob 在 Caffe 中扮演了重要的角色,用于存储数据和网络参数,同时也在 CPU 和 GPU 之间做了数据同步。Blob 原本在 Caffe 中被表示为一个 4 维数组 (num x channel x height x width),现在可以表示多维数组,最高维数由宏 kMaxBlobAxes 确定,目前 blob.hpp 中设置了 const int kMaxBlobAxes = 3转载 2017-08-16 11:26:04 · 2213 阅读 · 0 评论 -
caffe 解析 protobuf相关知识点
要通信,必须有协议,否则双方无法理解对方的码流。在protobuf中,协议是由一系列的消息组成的。因此最重要的就是定义通信时使用到的消息格式。 Protobuf消息定义消息由至少一个字段组合而成,类似于C语言中的结构。每个字段都有一定的格式。字段格式:限定修饰符① | 数据类型② | 字段名称③ | = | 字段编码值④ | [字段默认值⑤]①.限定修饰符包转载 2017-08-15 14:50:13 · 468 阅读 · 0 评论 -
caffe.proto详解
引言要看caffe源码,我认为首先应该看的就是caffe.proto。 它位于…\src\caffe\proto目录下,在这个文件夹下还有一个.pb.cc和一个.pb.h文件,这两个文件都是由caffe.proto编译而来的。 在caffe.proto中定义了很多结构化数据,包括:BlobProtoDatumFillerParameterNetParameterSolver转载 2017-08-15 15:11:43 · 1215 阅读 · 1 评论