深度学习
F_AnZzz
这个作者很懒,什么都没留下…
展开
-
AlexNet 论文笔记
ImageNet Classification with Deep Convolutional Neural Networks这篇文章主要是针对阅读AlexNet论文后的论文笔记,方便自己日后复习。网络结构原创 2018-06-14 21:10:48 · 246 阅读 · 0 评论 -
机器学习常用数值优化算法
假设损失函数为 J(θ)J(\theta)J(θ),参数为 θ∈Rn\theta \in R^nθ∈Rn一阶优化算法SGD (随机梯度下降)参数更新公式θt+1=θt−α∇J(θt) \theta_{t+1} = \theta_{t} - \alpha \nabla J(\theta_{t})θt+1=θt−α∇J(θt)其中,α\alphaα为学习率。缺点: SGD靠近极...原创 2019-07-10 21:43:44 · 808 阅读 · 0 评论 -
卷积计算的底层实现(Caffe)
卷积本身的执行过程是通过在特征图上滑动卷积核来完成的。但是在Caffe的底层实现是通过矩阵相乘的方式一步完成卷积的操作。假设输入图像及卷积和大小如下图所示:在Caffe的实现中,它分别将特征图和卷积转换为矩阵。具体的转换如下:卷积核对于2D卷积,本身是四维的卷积核,将其转换为二维由Cout×C×K×KC_{out}\times C \times K \times KCout×C×K×...原创 2019-07-11 01:10:31 · 1770 阅读 · 0 评论