最近做了一个简单的强化学习模型,过程中发现loss一直增加,但是模型的参数不会发生改变,输入不变的情况无论loss多大输出永远唯一,这种情况下,是由于loss的输入尺寸必须与模型最后一层的输出尺寸一致。只需要调节loss的输入或者模型输出即可。
深度模型训练模型参数不变、loss不下降的可能原因之一
最新推荐文章于 2024-05-19 01:06:15 发布
最近做了一个简单的强化学习模型,过程中发现loss一直增加,但是模型的参数不会发生改变,输入不变的情况无论loss多大输出永远唯一,这种情况下,是由于loss的输入尺寸必须与模型最后一层的输出尺寸一致。只需要调节loss的输入或者模型输出即可。