CNN多输出回归问题

最新推荐文章于 2024-01-31 23:43:05 发布
最新推荐文章于 2024-01-31 23:43:05 发布
阅读量4k 收藏 13
点赞数 2
分类专栏： tensorflow
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/megaoliyuanzhende/article/details/108260225
版权

最近用CNN做回归一直收敛不了，今天终于解决了，在此记录一下。

我的输入是一张图片，输出是70个系数值，原来不收敛是因为只对输入做了预处理，输出用的原始数据，网络最后的输出层也没加激活函数，label范围不固定。把输入输出都归一化到-1到1，最后一层用tanh激活就可以收敛了。用的VGG收敛速度还是有点慢需要再优化下网络。

后续改进：换了resnet网络，刚开始不收敛，输入输出归一化到0-1，网络输出层用sigmoid，然后计算loss的时候再用反归一化后的label和prediction来计算，这下loss降的很快，明天看看测试结果。

问题：咯咯咯，果然没这么顺利，用反归一化后数据计算loss虽然train loss降下去了，但test loss还是很高，然鹅不归一化直接计算loss，训练过程一开始loss就很小，然后一直震荡不收敛，这是什么毛病？ 待解决。。。

Gemma0906
关注
  • 2
    点赞
  • 踩
  • 13
    收藏
    觉得还不错? 一键收藏
  • 6
    评论
专栏目录
回归预测 - MATLAB实现CNN(卷积神经网络)多输入单输出（完整源码和数据）
05-27
回归预测 | MATLAB实现CNN(卷积神经网络)多输入单输出（完整源码和数据） 多输入单输出，运行环境MATLAB2018b及以上。
多输出回归问题
weixin_34320159的博客
08-16 5161
Scikit-Learn also has a general class, MultiOutputRegressor, which can be used to use a single-output regression model and fit one regressor separately to each target. Your code would then look someth...
多输入多输出 | Matlab实现基于改进麻雀算法优化卷积-长短期记忆神经网络结合SE注意力机制ISSA-CNN-BiGRU-Attention的多输入多输出回归预测
Matlab_dashi的博客
01-31 855
本文提出了一种改进的麻雀算法优化卷积-长短期记忆神经网络结合SE注意力机制ISSA-CNN-BiGRU-Attention的多输入多输出回归预测模型，用于解决复杂非线性时序数据的预测问题。该模型通过改进麻雀算法优化超参数，提高了ISSA-CNN-BiGRU-Attention模型的预测精度和鲁棒性。实验结果表明，改进的麻雀算法优化ISSA-CNN-BiGRU-Attention模型在多个数据集上取得了优异的预测性能，优于其他常用预测模型。
用神经网络进行回归预测 weight_decay为异常值（大于1 的值）模型效果好的原因解析
阿里武的技术博客
03-15 4360
weight_decay越大越好的原因 研究发生的问题特此记录 之前在用神经网络来做一个回归问题，回归的数值范围是0~1之间。然后进行网格搜参（搜索最好的weight_decay和学习率）的时候发现一个不合常理的现象，就是一般往往最好的weight_decay 一般是很小的一个数值（0.001或者0.0001），但是我的最优weight_decay反而很大，这就给我造成很大的困扰，还好经过一番探索，最终锁定了问题，下面我将一一道来 现象 发现weight_decay 取得一个比较大的值的时候 模型效果最好
分类和回归的区别（在CNN中）
eurus_的博客
10-31 8914
两者的本质相同，分类和回归的区别在于输出变量的类型。 定量——连续——回归 定性——离散——分类 用于回归：最后一层有m个神经元，每个神经元输出一个标量，m个神经元的输出可以看作向量V，现全部连到一个神经元上，则这个神经元的输出为wx+b,是一个连续值，可以处理回归问题 用于分类：现在把这m个神经元连接到N个神经元，就有N组w值不同的wv+b,同理，可以归一化（softmax）变成N个类上...
softmax回归
胡图图的博客
09-13 292
softmax回归 和线性回归不同，softmax回归的输出单元从一个变成了多个，且引入了softmax运算使输出更适合离散值的预测和训练。 1 分类问题 考虑一个简单的图像分类问题，其输入图像的高和宽均为2像素，且色彩为灰度。每个像素值都可以用一个标量表示。我们将图像中的4像素分别记为x1,x2,x3,x4x_1,x_2,x_3,x_4x1​,x2​,x3​,x4​。假设训练数据集中图像的真实标签为狗、猫或鸡（假设可以用4种像素表示出这3种动物），这些标签分别对应离散值y1,y2,y3y_1,y_2,y_
[已解决] 手动实现神经网络解决回归问题，每个epoch的loss/accuracy完全一样是怎么回事？
妈妈在家
08-02 5165
问题：Loss/Accuracy不变 今天下午跑实验2，手写的回归算法。反复检查Code没有问题，但是Loss从epoch2开始一直不变（如图）。是什么原因呢？ 网上方案 经过手动排查，网上列出的原因主要有以下三种，测试了均没有效果。 学习率太大、太小 根据指数搜索策略，手动更改学习率为0.1、0.01、0.001后，loss依旧不变。 yyy和y^\hat{y}y^​不在同一维度，发生了广播 for X, Y in train_iter: # the predication Yhat =
神经网络回归任务——关于预测目标是是较小以及较大数量级,loss为nan的解决办法
乐趣是人为构建的，构建是一种莫大的乐趣。
03-10 5138
关于预测标签是是较小数量级时的解决办法: 当预测目标太小，比如1e-4，1e-3，如果直接用训练标签和输出进行mse损失计算，梯度太小，难以训练。 提前预处理数据，对输出标签先进行归一化。 这个办法有的任务是可行的，但有的任务就不行，标签归一化降低了神经网络的训练难度，同时也意味着减少了神经网络能够输出的信息。 比如使用归一化的标签训练出的神经网络在测试样本上输出[1.1,1.3,1.5],我没法知道[1.1,1.3,1.5]对应的真实数据是多少，因为我并不清楚测试集的方差或均值。如果使用训练集的方差和均
python神经网络模型调用后预测值不变_Keras构建神经网络踩坑(解决model.predict预测值全为0.0的问题)...
weixin_39614561的博客
12-05 1439
终于构建出了第一个神经网络，Keras真的很方便。之前不知道Keras这么方便，在构建神经网络的过程中绕了很多弯路，最开始学的TensorFlow，后来才知道Keras。TensorFlow和Keras的关系，就像c语言和python的关系，所以Keras是真的好用。搞不清楚数据的标准化和归一化的关系，想对原始数据做归一化，却误把数据做了标准化，导致用model.predict预测出来的值全是0....
【回归预测-CNN预测】基于卷积神经网络CNN实现数据回归预测附matlab代码
matlab_dingdang的博客
07-30 5629
电力系统的安全稳定运行与国民经济的发展及社会人身财产安全息息相关.准确的短期负荷预测结果是电网指导电力系统制定发电计划,协调机组运行,调度负荷分配及制定检修计划的重要依据.随着智能电网的发展及越来越多的分布式电源的接入,影响短期负荷预测结果的因素更加复杂,使负荷呈现更强的非线性,这种严峻的环境也对短期负荷预测的准确度和适应性提出了更高的要求.电力系统的负荷由于数据量庞大,受众多因素影响等使其具有随机性,非线性,时序性等特点.卷积神经网络(Convolutional Neural Networks,CNN)能
多输入多输出回归模型（Multiple Input - Multiple Output）
热门推荐
fs01234的博客
01-27 2万+
大家所熟悉的机器学习算法的回归结果通常就是一个变量，而最近项目中遇到一个问题，希望利用多输入变量预测多输出变量，也就是multiple input -multiple output。拿到这个问题，我的思路有两个，一个是利用神经网络算法，毕竟其自身的构造特点就是多输入多输出；另一个是对每一个输出变量构造回归模型，有几个输出就有几个回归模型，当然最好都用同一种算法。在自己思考过后，在网上查阅了资料发现，原来处理多输入多输出回归问题，还有其它高效的处理办法。 具体操作见文献1，具体操作都以python中的skle
基于CNN的多输入单输出回归预测（Matlab源码）
01-04
基于CNN算法实现多输入单输出回归预测，16个输入指标，1个输出指标，共有1000多条训练数据，基于本项目，只需要将数据修改为你的数据，即可进行训练和预测。 2、内容介绍 （1）excel数据文件。 （2）可直接运行的...
基于CNN的多输入单输出回归预测（Matlab-mlAPP界面）
01-04
也就是说之后GUI只能在低版本使用，高版本将会进行剔除，今天就给大家带来基于CNN多输入单输出回归预测的mlapp版本的界面。 1、项目介绍 基于CNN算法实现多输入单输出回归预测，16个输入指标，1个输出指标，共有1000...
回归预测 - MATLAB实现CNN-LSTM多输入单输出（完整源码和数据）
05-05
回归预测 | MATLAB实现CNN-LSTM多输入单输出（完整源码和数据） 本次运行测试环境MATLAB2020b，MATLAB实现CNN-LSTM多输入单输出预测。
基于CNN的多输入单输出回归预测（Matlab-GUI界面）
01-04
基于CNN算法实现多输入单输出回归预测，16个输入指标，1个输出指标，共有1000多条训练数据，基于本项目，只需要将数据修改为你的数据，即可进行训练和预测。 2、内容介绍 （1）excel数据文件。 （2）基于CNN的多输入...
基于matlab实现的数值计算及金融运用 ,金融时间序列数据分析 ,MATLAB和其他软件数据连接.rar
最新发布
05-02
基于matlab实现的数值计算及金融运用 ,金融时间序列数据分析 ,MATLAB和其他软件数据连接.rar
使用SegNet进行语义分割-python源码.zip
05-02
使用SegNet进行语义分割-python源码.zip
JSP企业电子投票系统 2.zip
05-02
JSP企业电子投票系统 2
EmotionVGGnet情绪识别-python源码.zip
05-02
EmotionVGGnet情绪识别-python源码.zip
cnn linear回归分析 输出数据结果
11-29
CNN linear回归分析是一种利用卷积神经网络（CNN）进行线性回归分析的方法。通过输入数据经过卷积操作和线性回归层的处理，得到输出结果。 在CNN linear回归分析中，首先我们需要准备输入数据，这些数据可以是图像、时间序列数据等，然后将这些数据经过卷积神经网络的多个卷积层和池化层进行特征提取和降维。接着，将经过卷积神经网络处理后的数据输入到线性回归层中进行线性转换，最终得到输出数据结果。 通过CNN linear回归分析，我们可以得到输入数据与目标值之间的线性关系，从而可以进行预测或者回归分析。输出数据结果会给出线性回归分析的预测值或者回归系数等信息，帮助我们了解输入数据的特征和目标值之间的关系。 CNN linear回归分析在计算机视觉、自然语言处理、金融预测等领域都有广泛的应用。通过这种方法，我们可以对复杂的数据进行线性回归分析，得到更准确的预测结果。 综上所述，CNN linear回归分析是一种利用卷积神经网络进行线性回归分析的方法，通过输入数据经过卷积操作和线性回归层的处理，得到输出结果，为我们提供了对目标值进行预测或者回归分析的有效手段。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 6
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值