训练时评估指标无变化，且预测值都一样

最新推荐文章于 2024-04-16 16:18:42 发布

大奸猫

最新推荐文章于 2024-04-16 16:18:42 发布

阅读量7.2k

点赞数 7

分类专栏：问题

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/yeziand01/article/details/106406731

版权

问题专栏收录该内容

38 篇文章 1 订阅

订阅专栏

文章目录

问题
原因
解决方案

问题

将特征全都标准化到 [0,1]，设计了多层 Dense，训练，发现评估指标一直不下降，而且预测值全部都相同，如下所示：
在这里插入图片描述

原因

看了一下激活函数用的是relu，因为relu的激活小于0全等于0，大于0就保持不变；猜测是全部都小于0，导致全部都等于0，于是对于所有样本都输出同一个预测值。
在这里插入图片描述

解决方案

激活函数改为tanh，性能评估指标发生了变化，预测值也发生变化
在这里插入图片描述

关注

7
点赞
踩
15

收藏

觉得还不错? 一键收藏
6
评论
训练时评估指标无变化，且预测值都一样

文章目录问题原因解决方案问题将特征全都标准化到 [0,1]，设计了多层 Dense，训练，发现评估指标一直不下降，而且预测值全部都相同，如下所示：原因看了一下激活函数用的是relu，因为relu的激活小于0全等于0，大于0就保持不变；猜测是全部都小于0，导致全部都等于0，于是对于所有样本都输出同一个预测值。解决方案激活函数改为tanh，性能评估指标发生了变化，预测值也发生变化...
复制链接

扫一扫

专栏目录

评论 6

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。