![](https://img-blog.csdnimg.cn/20201014180756738.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
胶囊网络
文章平均质量分 58
liiiiiiiiiiiiike
这个作者很懒,什么都没留下…
展开
-
为什么特征融合是如此重要?(详细)
不变性和等变性是图像特征表示的两个重要性质。分类需要不变特征表示,因为它的目标是学习高级语义信息。目标定位要求等变表示,因为它的目的是鉴别位置和尺度的变化。由于目标检测包括目标识别和目标定位两个子任务,因此对检测器来说,同时学习不变性和等变性是至关重要的,通俗理解分类只需要了解物体特征就行,学习高级特征就足以帮助网络分类,而目标定位则需要知道物体和背景的情况,也就是部分和整体的关系,这一部分只能通过等变性实现。特征融合是深浅网络的融合,浅网络更多的是等变性,深网络更多的是等变性,因为随着CNN网络的加深,原创 2021-04-18 20:00:55 · 5244 阅读 · 3 评论 -
学习率:余弦退火衰减策略(附代码+在cifar10上采用余弦退火衰减)
学习率会在刚开始的时候上升,加快模型的收敛速度,寻找最优点位置,到达一定step后,学习率下降,此时我们可以认为这是一个模型在微调的过程。上升采用线性上升,下降采用cos函数下降。step = (训练样本数 * 训练epoch )/batch_size0.001是自己设置的learning_base点。下面为cifar-10数据集,学习采用余弦退火衰减实现方式如下,利用Callback实现,与普通的ReduceLROnPlateau调用方式类似:import numpy as npimport.原创 2021-04-09 17:11:58 · 2850 阅读 · 0 评论 -
读《RS-CapsNet: An Advanced Capsule Network》的一些理解
摘要:首先还是一样的剧本,夸胶囊网络,然后再说现有胶囊网络的一些缺点,例如胶囊网络在复杂数据下面的糟糕表现,原因是因为它特征提取的力度不够。为了解决这个问题,作者提出了RS-CapsNet,其利用了Res2Net block去提取多尺度的特征,采用SEnet中的SEblock去highlight有用特征,suppress无用特征,同时,我们采用胶囊之间线性组合的方法,提高了胶囊对被检测对象的表示能力,减少了胶囊的数量。此外,作者还提出了构造了能代表大部分检测对象的中间胶囊,然后再用中间胶囊和主胶囊一起去构原创 2021-03-29 10:19:01 · 505 阅读 · 0 评论 -
读《R-CapsNet: An Improvement of Capsule Network for More Complex Data》一些理解
摘要:老套路,首先说CNN很好但是有很致命的缺点,例如CNN需要大量样本进行训练,且在pooling层容易丢失很多重要信息——空间,位置等,所以hinton提出了capsnet,虽然capsnet在Mnist数据集上表现很好,但是在一些复杂且噪音很大的数据集上表现却不太理想(FashionMnist,cifar-10等数据集上),作者想改善胶囊网络在复杂数据集上表现不理想的缺点,对capsnet进行了改进提出了R-capsnet,结果表明在准确率在在上升的同时,训练参数也接近减半。1 简介:介绍了图片原创 2021-03-27 13:59:34 · 249 阅读 · 0 评论 -
读MS-CapsNet: A Novel Multi-Scale Capsule Network的一些理解
摘要:指出胶囊网络的优势,即可以编码图片中特征的空间关系,这将很大程度上改善目前在图像分类的缺点(特征不变性)。但是原始的胶囊网络,不太适合内部特征比较丰富的图像。所以作者提出了一种MS-Capsules,这种网络可以增加网络的效率和鲁棒性。MS-Capsules有两个阶段:第一个阶段是多尺度特征提取低级特征和高级特征,第二个阶段是用多维主胶囊层来编码特征金字塔。当然,如果作者只做这些任务怎么可能发sci呢,所以作者还提出了一种用于胶囊网络的dropout。1 介绍:指出现在CNN采用的路由机制是po原创 2021-03-23 19:52:29 · 791 阅读 · 4 评论