卷积神经网络/CNN/深度学习在做分类训练时不收敛的解决方案

最新推荐文章于 2023-07-04 02:28:02 发布
最新推荐文章于 2023-07-04 02:28:02 发布
阅读量2.7w 收藏 32
点赞数 11
分类专栏： matlab 机器视觉 车牌识别 文章标签： 深度学习 神经网络 cnn-神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/fighting_dreamer/article/details/71498256
版权
在训练卷积神经网络（CNN）进行图像分类时，遇到长时间无法收敛的问题。作者通过改变图像大小，从200*100调整为64*32，不仅显著减少了训练时间，而且在50多个Epoch后达到97%的准确性，证明了调整图像尺寸可能是解决CNN训练不收敛的有效方法。
摘要由CSDN通过智能技术生成

1.背景介绍

训练网络的过程就是网络学习图像特征的过程,正所谓网络好用但是不好训练,我算是真真切切的体会到了.之前训练手写汉字的时候,大概就花费了1个多小时,之前训练几十个分类的字符也耗费了很长的时间,逐渐让我我点怕训练了,不过今天,我好像找到了问题的解决方法,虽然不一定对每个人有用吧,但是的的确确省了太多的时间.用图说话

今天打算训练一个cnn分类这39类图片,

这里写图片描述

**

他们大概长这个样子

**

这里写图片描述

200*100的大小,一共1300个.

,

最低0.47元/天 解锁文章
F-D
关注
专栏目录
GA.rar_人工智能/神经网络/深度学习_matlab_
08-11
深度学习则可以借助Deep Learning Toolbox实现，支持搭建各种深度网络架构，如卷积神经网络（CNN）、循环神经网络（RNN）以及长短时记忆网络（LSTM）等。 总之，这个压缩包的内容很可能是使用MATLAB的遗传算法实现...
CNN loss无法收敛的一种原因
m0_37920951的博客
04-22 3636
在一次实验中，发现loss计算出为nan 型 【原因】后来发现，输入数据的标签，没有从下标0开始(几个标签分别是0,10,20,30,40)。 【解决】将标签除以10，done 【注】https://blog.csdn.net/u014381600/article/details/54319030这篇博客说到，tensorflow中只要输入标签为Onehot就可以任意标注标签，但是避免出错，...
转载： CNN不收敛 可能问题
a362682954的博客
02-13 2117
转载：http://theorangeduck.com/page/neural-network-not-working My Neural Network isn't working! What should I do? Created on Aug. 19, 2017, 5:56 p.m. So you're developing the next great breakthroug...
神经网络不收敛的 原因
LaineGates的专栏
06-29 1064
原文 原文标题：My Neural Network isn’t working! What should I do? Github Notes 前言 如果你的神经网络不收敛，应该怎么办呢？一般来说，神经网络不收敛的原因有以下 11 种原因： 忘记对你的数据进行归一化 忘记检查输出结果 没有对数据进行预处理 没有使用任何的正则化方法 使用了一个太大的 batch size 使用一个错误的学习率 在最后一层使用错误的激活函数 网络包含坏的梯度 网络权重没有正确的初始化 使用了一个太深的神经网络 隐藏层神经元数
神经网络如何提高准确率,神经网络收敛速度慢
aifans_bert的博客
08-07 2571
另外可以使用变动的学习率，在误差大的时候增大学习率，等误差小了再减小学习率，这样可以收敛更快，学习效果更好，不易陷入局部极小化。神经网络，你先学好高数里的很多级数，如泰勒展开式，傅里叶级数，洛朗级数等这些级数对现实模型都有逼近作用，神经网络最初都是单神经元，如果你对泰勒展开时比较深刻了之后，你就可以很轻松的证明单层感知器的数学动力学原理，之后学习多层感。对于一些复杂问题，BP算法需要的训练时间可能非常长，这主要是由于学习速率太小造成的，可采用变化的学习速率或自适应的学习速率加以改进。...
深度学习训练时网络不收敛的原因分析总结
热门推荐
comway_Li的博客
08-20 4万+
很多同学会发现，为什么我训练网络的时候loss一直居高不下或者准确度时高时低，震荡趋势，一会到11，一会又0.1，不收敛。 又不知如何解决，博主总结了自己训练经验和看到的一些方法。 首先你要保证训练的次数够多，不要以为一百两百次就会一直loss下降或者准确率一直提高，会有一点震荡的。只要总体收敛就行。若训练次数够多（一般上千次，上万次，或者几十个epoch）没收敛，则试试下面方法： 1. 数据...
TSP.rar_人工智能/神经网络/深度学习_Visual_C++_
08-11
在具体实现上，我们可以使用反向传播神经网络（Backpropagation Neural Network，BPN）或卷积神经网络（Convolutional Neural Network，CNN）来模拟旅行商的路径选择过程。BPN通过不断调整权重来逼近最优解，而CNN则...
谱聚类.zip_人工智能/神经网络/深度学习_Python__人工智能/神经网络/深度学习_Python_
08-09
例如，在卷积神经网络（CNN）中，谱聚类可以先对图像进行预分类，帮助网络更快地收敛。在强化学习中，谱聚类可以用于状态空间的离散化，简化问题复杂度。 在实际应用中，谱聚类还常用于社交网络分析、图像分割、...
基于卷积神经网络的烟叶近红外光谱分类建模方法研究.pdf
09-26
卷积神经网络（Convolutional Neural Networks，CNN）作为深度学习领域的重要技术，在图像分类识别领域应用广泛。但是，在近红外光谱分类中的研究还未见报道。本文研究基于卷积神经网络的近红外光谱分类建模方法，以...
基于稀疏自学习卷积神经网络的句子分类模型.pdf
09-26
总的来说，《基于稀疏自学习卷积神经网络的句子分类模型》为句子分类提供了一种创新的解决方案，通过结合稀疏性和自我学习，克服了传统CNN模型的局限性，提高了模型的泛化能力和处理文本数据的效率。这一研究对于...
【深度学习填坑笔记2】用nn.Transformer训练时出现loss不收敛现象
最新发布
m0_58815430的博客
07-04 3153
本文介绍了用transformer进行序列预测时遇到了训练过程中loss不收敛的问题
神经网络不收敛的 11 个原因及其解决办法
AI 算法笔记
05-04 9865
原文：http://theorangeduck.com/page/neural-network-not-working 原文标题：My Neural Network isn’t working! What should I do? 译文作者：kbsc13 联系方式： Github：https://github.com/ccc013 知乎专栏：机器学习与计算机视觉，AI 论文笔记 微信公众号：AI 算法笔记 前言 如果你的神经网络不收敛，应该怎么办呢？一般来说，神经网络不收敛的原因有以下 11 种原因：
神经网络训练不收敛或训练失败的原因总结
小白学视觉
06-07 890
点击上方“小白学视觉”，选择加"星标"或“置顶”重磅干货，第一时间送达前言本文分别从数据方面和模型方面分析了导致模型训练不收敛或失败的原因，数据方面总结了四种可能的原因，模型方面总结了九种可能的问题。除此之外，本文介绍了每种潜在问题的产生后果或现象，并提供了常规做法。作者：风影忍着@知乎(已授权)编辑：CV技术指南文章：https://zhuanlan.zhihu.com/p/285601835...
【图像分类】记录一个天坑：二分类网络使用CrossEntropyLoss，loss一直在0.69不收敛的问题
AI浩
05-28 1万+
最近在尝试用CrossEntropyLoss(),实现猫狗图像分类的功能。遇到了一个奇怪的问题：loss一直停留在0.69附近，我查了查loss函数的公式,公式如下：
CNN训练技巧
方同学的博客
02-23 929
1
速看！deep learning（rnn、cnn）调参的经验
小白学视觉
08-26 2179
点击上方“小白学视觉”，选择加"星标"或“置顶”重磅干货，第一时间送达 本文转自|视觉算法话说三人行，必有我师焉。有哪些deep learning（rnn、cnn）调参的...
卷积神经网络CNNs的调优及性能提升技巧
weixin_43359642的博客
09-04 4389
卷积神经网络CNNs的调优及性能提升技巧 最近我搭建了一个基于CNN的模型，在调优的过程中发现了一些通用的方法。在此想对这些方法做一个简述和实际的作用分析作为对我的工作的总结，也是希望能帮助其他像我这样的小白快速入门CNN。更详细的内容可以查看文章最后的论文以及链接，之后的学习和工作中有新的体会会在进行补充。这也是我的第一篇文章，如果各位大神们有任何宝贵意见和问题，我们可以一起讨论一起进步。 实验环境： Python 3.7 Tensorflow 2.0.0 Linux + VM 一、调整网络架构 在我
神经网络模型不收敛原因、解决办法
褚骏逸的学习之路
05-22 1万+
目录0.可能原因汇总1.检查1.1.确保：数据干净、标注正确1.2.样本的信息量太大1.3.确保：归一化、标准化1.4.确保：数据Shuffle1.5.数据预处理1.6.确保：y与loss是搭配的1.7.确保输出层的激活函数正确2.模型优化2.1.learning rate设大了2.2.batchsize2.3.网络设定不合理2.4.数据正则化2.5.ReLU激活函数导致坏梯度2.6.正确初始化权重参考 理论上，只要训练样本足够多，神经网络可以拟合原始数据分布。 0.可能原因汇总 没有对数据进行归一化 忘
针对有多层卷积的神经网络不易收敛的措施（持续更新中）
前进ing的博客
03-11 1406
1. 卷积层权重初始化的时候，不用默认的constant，都为0，而是用Xavier，msra weight_filler { type: "msra" } 原因：如果网络中的权重太小，则信号在经过每一层的时候就会抖动（shrinks），直到信号太小了，都没用了。 如果网络中的权重初始值就太大了，信号在经过每一层的时候都会增大，直到太大了以至于没用了。 Xavier 初始...
评论 18
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值