crnn文字识别训练过程出现的nan问题

最新推荐文章于 2022-11-25 13:43:55 发布
最新推荐文章于 2022-11-25 13:43:55 发布
阅读量1.3k 收藏 5
点赞数
分类专栏： 《视觉图像处理工程应用》解决方案
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yunxinan/article/details/106466268
版权

crnn 文字识别中数据集应该注意问题：

a)训练图片高度不能超过32并且要能整除16
b)训练图片宽度不能小于高度的八倍256不然在寻找输出的的出现
c)原则上最好的训练就是图片的高度都是32宽度都是280的字条里面的文字可以多可以少
d)如果出现丢字修改池化层的第二个参数为1可以减少丢字

详细代码阅读：

模型训练出现关于nan问题的方案
以crnn_chinese_characters_rec为例
打开 https://github.com/Sierkinhane/crnn_chinese_characters_rec

**找到脚本params.py脚本
阅读里面的相关超参数，这个其实就是模型的cfg文件
在17-19行写出了限制
为什么要对模型的输入尺寸限制这个是为了全连接层的输入是固定原因
想修就要对全连接层前面加上空间金字塔池化spp这种结构在crnn里该结
结构是blstm控制

**具体代码crnn_main.py
164行说明了尺寸限制传入参数
168行详细的说明参数下传的过程
161行可以看出是使用torch框架自带的ctcloss
代码返回到crnn.py里面
尺寸在14行有了新的计算
在25行输出尺寸在32行解释说明长度的变化尺寸nm的字典里面
66行可以打印出来看自己的尺寸是否正确

整体过程：输出图片特征调用ctcloss计算和使用blstm输出识别的文本

**以chineseocr为例
https://github.com/chineseocr/chineseocr
在crnn_torch.py脚本中
45行可以看出是尺寸限制条件
该限制条件主要的作用在config.py的40行
然后在crnn文件夹中utils.py脚本中
定义了一个方法来使用strlabelconverter
相关的尺寸变化在29行开始计算

Eric An
关注
专栏目录
OCR论文笔记系列（一）: CRNN文字识别
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
12-08 2万+
本文主要介绍OCR领域经典深度学习方法CRNN+CTC,CRNN是一种卷积循环神经网络结构，用于解决基于图像的序列识别问题，特别是场景文字识别问题。CRNN网络结构包含三部分，从下到上依次为：1. 卷积层。作用是从输入图像中提取特征序列。2. 循环层。......
CRNN_CTC_OCR models.rar
05-17
DL之CNN：基于CRNN_OCR算法(keras,CNN+RNN)利用DIY数据集训练来实现新图片上的不定长度中文文字识别 https://blog.csdn.net/qq_41185868/article/details/90246673
Pytorch训练CRNN输出为NaN
一听音频技术
11-25 1208
记录一个非常隐蔽pytorch训练audio相关的Bug。
pytorch RNN训练loss出现nan
Shenquanle的博客
10-02 1089
我是通过打断点判断出来的。 （1）利用torch.any(torch.isnan(input))判断自己所有的输入是否有问题（我发现我的输入tensor中有一维的特征有nan，是因为最大最小值归一化的时候，max和min是同一个数，造成除数为0，结果产生了nan，LSTM、GRU学出来的全是nan） （2）输出网络中每一层的输出，看看nan是哪里产生的（我是在输入和LSTM/GRU单元部分产生的） （3）找到nan的原因，解决掉nan ...
中文Chinese-CRNN代码训练中遇到loss nan的问题解决方法
ROYOLE'S
10-26 825
首先通过以下代码，对问题进行定位 with torch.autograd.detect_anomaly(): loss.backward() 然后，发现问题出在损失函数上面了： RuntimeError: Function 'CtcLossBackward' returned nan values in its 0th output. 检查CTC Loss的参数设置，由于我没有修改原始config中图像初始长宽，而我自己使用的数据集label都比较长，这导致CTC Loss中length比
从零写CRNN文字识别 —— （6）训练
qq_37668436的博客
02-12 2758
前言 完整代码已经上传github：https://github.com/xmy0916/pytorch_crnn 训练 训练部分的代码逻辑如下： for epoch in range(total_epoch): for data in dataloader: 数据输入模型（前馈） 根据输出计算loss loss反馈更新网络参数 if epoch % eval_epoch == 0： 评估数据输入模型（前馈） 根据输出计算loss 解码输出计算识别准确
crnn-master.zip_CRNN_crnn 训练_文字识别_神经网络识别
09-24
- 预测脚本：用于在新图像上进行文字识别的代码。 - 配置文件：存储模型参数、超参数等信息的配置文件。 - 工具函数：辅助函数，如数据增强、结果可视化等。 通过深入理解CRNN的工作原理和项目结构，我们可以进一步...
CRNN文本识别.zip
08-02
在这个项目中，CRNN模型被用来处理2000张车牌号序列图片，经过训练后，其识别精度达到了91.2%，显示出较高的性能和鲁棒性。 1. **CRNN模型结构**： CRNN结合了卷积神经网络（CNN）和循环神经网络（RNN），以充分...
图片文字识别crnn-master.zip_CRNN_crnn文字识别_lua中识别文字_图形/文字识别_深度学习图片
09-23
本项目“图片文字识别crnn-master.zip”包含了一个基于CRNN的文字识别系统，它利用了Caffe深度学习框架。尽管描述中提到对其中的lua脚本理解有限，但我们可以深入探讨CRNN的工作原理和相关技术。 **CRNN的核心概念...
crnn实现水平和垂直方向中文文字识别, 提供在3w多个中文字符训练的水平识别和垂直识别的预训练模型.zip
最新发布
01-06
本文将深入探讨如何使用CRNN（Convolutional Recurrent Neural Network）模型进行水平和垂直方向的中文文字识别，并基于一个包含30656个汉字、数字和字符的大型训练集，分享预训练模型的实现细节。 CRNN模型是深度...
CRNN预训练参数（训练集10000张左右）
05-25
预训练参数基于0-9a-zA-Z的切片文字训练，训练集10000张左右。
自然场景OCR(YOLOv3+CRNN)
03-14
自然场景OCR（YOLOv3+CRNN）,附带整个项目代码，详细代码注释
CRNN项目实战
一位在路上的工程师的博客
05-05 6327
CRNN项目实战 之前写过一篇文章利用CRNN进行文字识别，当时重点讲的CRNN网络结构和CNN部分的代码实现，因为缺少文字数据集没有进行真正的训练，这次正好有一批不定长的字符验证码，正好CRNN主要就是用于端到端地对不定长的文本序列进行识别，当然是字符和文字都是可以用的，所以这里进行了一次实战。 主要是参考github项目：https://github.com/meijieru/crnn.pytorch 关于lmdb lmdb安装 首先关于lmdb这个数据库，python有两个包，一个是lmdb，另一个是
论文翻译(二) CRNN 基于图像序列的识别的识别的端到端可训练神经网络及其在场景文字识别的应用
Pleadge的博客
08-09 1106
CSDN，我爱你家人
CRNN
瓜皮吃瓜不吐瓜皮
05-06 1916
初次接触，学习笔记，可能会存在过多疏漏 [1]CRNN原理 1，结构图 **主要包括：**卷积层(CNN),循环层(RNN),转录层(CTC) 2,整个模型的特点 1，不用没每个字符打标签，只需要给一个图片打一个序列标签。 2，利用CNN提取图像特征 3，利用RNN训练的输入特征序列，得到一个序列标签 4，对训练的图像没有长度限制，但是要将图片的高度归一化 5，参数少 6，虽然结合了CNN和RN...
『OCR_Recognition』CRNN
libo-coder
12-24 5557
文章目录前言一、CRNN1.1 CRNN 介绍1.2 CRNN 网络结构1.2.1 CNN1.2.2 Map-to-Sequence1.2.3 RNN1.2.4 CTC Loss1.2.4.1 序列合并机制1.2.4.2 训练阶段参考链接 前言 现今基于深度学习的端到端 OCR 技术有两大主流技术：CRNN OCR 和 attention OCR。其实这两大方法主要区别在于最后的输出层（翻译层），即怎么将网络学习到的序列特征信息转化为最终的识别结果。这两大主流技术在其特征学习阶段都采用了 CNN+RNN
【深度学习神经网络】--CRNN
TU商的博客
10-24 2196
我们知道 RNN 在每一个时间步的输出为所有字符类别的概率分布，即一个包含每个字符分数的向量，我们取其中最大概率的字符作为该时间步的输出字符，然后将所有时间步得到一个字符进行拼接得到一个序列路径，即最大概率路径，再根据上面介绍的合并序列方法得到最终的预测文本结果。如上图，对于最简单的时序为 2 的字符识别，有两个时间步长(t0，t1)和三个可能的字符为“ａ”，“ｂ”和“-”，我们得到两个概率分布向量，如果采取最大概率路径解码的方法，则“--”的概率最大，即真实字符为空的概率为0.6*0.6=0.36。
训练CRNN时，关于ctc_loss的几点注意事项
ab0902cd的博客
05-12 1754
这个ctc_loss很魔性，训练CRNN虐了我几个来回。 我的数据集图片大小不一，我是先等比例缩小到固定高度为32，宽度不定。 常见三个问题： 1.CTC Loss Error: invalidArgumentError: Not Enough time for target transition sequence. 2.CTC Loss Error: InvalidArgumentError: sequence_length(b) <= time 3.ctc_loss error “No
CRNN详解
热门推荐
bestrivern的博客
11-02 3万+
一.概述 常用文字识别算法主要有两个框架： CNN+RNN+CTC(CRNN+CTC) CNN+Seq2Seq+Attention 本文介绍第一种方法。 CRNN是一种卷积循环神经网络结构，用于解决基于图像的序列识别问题，特别是场景文字识别问题。 文章认为文字识别是对序列的预测方法，所以采用了对序列预测的RNN网络。通过CNN将图片的特征提取出来后采用...
CRNN文字识别系统设计与实现过程
04-26
很高兴回答您的问题。CRNN文字识别系统是一种将卷积神经网络（CNN）和循环神经网络（RNN）结合的深度学习算法，主要用于识别文本或图像中的文字。下面是CRNN文字识别系统的设计和实现过程： 1. 数据集准备 首先需要准备大量的图像数据集，包含各种不同的文字和字体。数据集需要进行预处理，如裁剪、旋转、模糊等，以增加模型的鲁棒性和准确率。 2. CNN特征提取 对于每一张图片，需要先将其经过卷积神经网络（CNN）进行特征提取。CNN可以有效地将图像中的特征提取出来，如线条、圆弧等，其中，卷积层和池化层交替进行，最后得到一个固定大小的特征图。 3. RNN序列建模 将CNN提取出来的特征图输入到循环神经网络（RNN）中进行序列建模。RNN主要用于文本或语音等序列数据的处理，可以有效地捕捉到序列之间的依赖性。 4. CTC损失计算 利用连接时序分类（CTC）算法求得模型的损失函数。CTC算法是一种基于RNN的序列分类算法，它可以将不定长的序列映射到一个固定输出大小的类别序列上，可以允许序列输入和序列输出，非常适合文字识别任务。 5. 模型训练和评估 最后需要对模型进行训练，并使用测试数据进行评估。在训练过程中，使用随机梯度下降等优化算法对模型的参数进行优化，直到达到预设的训练指标。 希望以上内容能够对您有所帮助。如有任何问题，请随时回复。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值