深度学习常见问题
他们叫我一代大侠
这个作者很懒,什么都没留下…
展开
-
深度学习的训练过程中学习率调整策略
深度学习的训练过程中学习率调整策略学习率学习率如果说在深度学习训练过程中所有涉及的超参数中,要让你选出一个最重要的超参数,那么一定是学习率这个数值了。...原创 2019-12-19 20:52:58 · 1533 阅读 · 0 评论 -
Network in Network and 1×1 convolutions
Network in Network and 1×1 convolutions1.前言2. 1×1的卷积如何作用?2.1 1×1 convolutions in 2D image2.1 1×1 convolutions in 3D features3. 1×1卷积作用体现在何处?4. 1×1卷积的网络框架应用举例4.1 Inception结构应用1×1卷积网络结构参数和削减计算成本4.2ResNe...原创 2019-12-04 19:26:01 · 540 阅读 · 0 评论 -
语义分割评价指标及代码实现详解
语义分割评价指标及代码实现详解前言MIOU前言不管在任何领域,我们都需要一些指标和评价标准来评判我们的工作做的如何,与上次的工作相比是否有所进展。那么在图像分类领域,我们有准确率、精确率和召回率作为我们评价图像分类结果的标准。那么在语义分割领域,我们也需要相对应的指标来定义我们的模型和算法对于图像的分割结果到底如何。那么这篇博客将给大家详细介绍,各种的语义分割指标,并用numpy给大家解释如何...原创 2019-11-13 22:54:57 · 3931 阅读 · 3 评论 -
AI有惑:深度学习的中不均衡样本的解决方法
深度学习的中不均衡样本的解决方法场景描述问题描述分析与解答知识点解决思路思路一:二分法查找小结参考文献场景描述在我们训练二分类网络的时候,例如医疗诊断、网络入侵检测、信用卡反诈骗邓。经常会遇到的问题就是正负样本不均衡的问题。如果我们直接采用不均衡的样本集进行训练和处理,会存在一些问题。例如,如果正负样本的比例达到1:99,那么我们的分类器简单地把我们的所有样本全部判定为负样本,都有99%的正...原创 2019-07-31 20:12:37 · 1318 阅读 · 0 评论 -
如何解决训练网络过拟合的问题?
如何解决训练网络过拟合的问题?前言一、数据1.直接采集更多的数据。2.数据增强3.数据生成二、降低模型复杂度1.削减参数2.网络修改三、正则化方法1.损失函数正则化2.Dropout3.增加BN层(主要用于加快模型收敛)四、训练五、集成方法补充:降低“欠拟合”风险的方法前言如何解决网络过拟合的问题?判断一个训练模型过拟合,主要依据来自于,该模型在训练集上的表现很好。但是在测试集合和新数据上的...原创 2019-08-24 22:33:03 · 1930 阅读 · 0 评论 -
一文详解BN、LN、IN、GN四种正则化方式
一文详解BN、LN、IN、GN四种正则化方式前言批量归一化-BN(Batch-Normalization)mini-batch 梯度下降法批量归一化(Batch Normalization)的基本动机与原理是什么?在卷积神经网络中如何使用?所以BN和mini-batch的联系和区别在哪儿?快手真题选择题考察参考文章前言楼主前段时间真的是很巧,在面试阿里和大疆的图像算法时。在提及我对网络架构进行...原创 2019-08-27 10:58:10 · 3562 阅读 · 0 评论