深度学习
文章平均质量分 70
Yukiyousa
这个作者很懒,什么都没留下…
展开
-
卷积神经网络残差网络
残差网络非常非常深的神经网络是很难训练的,因为存在梯度消失和梯度爆炸问题。跳跃连接能够有效的解决这一问题,可以从某一层网络层获取激活,然后迅速反馈给另外一层,甚至是神经网络的更深层。残差块在一般情况下,a[l]输入到神经网络后得到输出a[l+2]的过程如上图,将a[l]拷贝到最后一个linear之后,Relu之前,此路径成为捷径。a[l]跳过一层或者好几层,从而将信息传递到神经网络的更深层,成为捷径或跳跃连接ResNet首先我们看一个普通网络(Plain network),这个术语来自Res原创 2021-02-19 16:31:10 · 3270 阅读 · 0 评论 -
卷积神经网络池化层
池化层池化层的作用卷积网络也经常使用池化层来缩减模型的大小,提高计算速度提高所提取特征的鲁棒性最大池化最大化操作的功能就是只要在任何一个象限内提取到某个特征,它都会保留在最大化的池化输出里。所以最大化运算的实际作用就是,如果在过滤器中提取到某个特征,那么保留其最大值。如果没有提取到这个特征,可能在右上象限中不存在这个特征,那么其中的最大值也还是很小。在最大池化中很少用到Padding,所以输出维度为:⌊nH−fs+1⌋×⌊nW−fs+1⌋×nc\left \lfloor \frac{n原创 2021-02-19 10:55:35 · 2125 阅读 · 0 评论 -
三维卷积与单层卷积神经网络
三维卷积与单层卷积神经网络三维图像卷积对于三维图像RGB的特征,有3个通道。彩色图像如果是6×6×3,这里的3指的是三个颜色通道,可以把它想象成三个6×6图像的堆叠。第一个6代表图像高度,第二个6代表宽度,这个3代表通道的数目。同样你的过滤器也有一个高,宽和通道数,并且图像的通道数必须和过滤器的通道数匹配相较于3个矩阵的堆叠,我们可以任务过滤器的一个三维的立方体。叠加过滤器如果我们不仅仅想要检测垂直边缘怎么办?如果我们同时检测垂直边缘和水平边缘,还有45°倾斜的边缘?让这个6×6×3的图像原创 2021-02-19 10:43:50 · 553 阅读 · 0 评论 -
卷积神经网络填充Padding及步长Stride
填充Padding及步长Stride卷积运算的缺点假设图像的大小为nxn,过滤器是fxf,那么卷积运算的结果为(n-f+1)x(n-f+1)卷积运算后图像会缩小,经过若干次卷积运d算图像和图像的特征可能会缩小卷积运算中覆盖边缘和角落的像素点比中间像素点少,导致丢失图像边缘信息为了解决这一问题,引入填充PaddingPadding在图像周围填充一周的像素点(通常像素值为0),得到nxn → (n+2)x(n+2)的图像,经过卷积运算后得到nxn的图像,一般情况下卷积后图像的大小为(n+2p-原创 2021-02-18 10:46:52 · 2755 阅读 · 1 评论 -
卷积神经网络与边缘检测
计算机视觉计算机视觉的三个应用场景图像识别/图像分类目标检测风格迁移 图片由像素构成,一张图片的数据量很大,如果采用传统的DNN其参数量巨大,难以处理。为此,需要进行卷积计算,它是卷积神经网络中非常重要的一块。边缘检测卷积运算是卷积神经网络最基本的组成部分,使用边缘检测作为入门样例。卷积运算 这是一个6×6的灰度图像。因为是灰度图像,所以它是6×6×1的矩阵,而不是6×6×3的,因为没有RGB三通道。为了检测图像中的垂直边缘,你可以构造一个3×3矩阵。在共用习惯中,在卷积神经原创 2021-02-18 10:13:33 · 2886 阅读 · 0 评论