跑程序的时候经常碰到 loss
为 nan
的情况,在此记录一下,防止忘记踩过的坑。
第一种可能:
激活函数使用 relu
, 导致最后输出的值很大,
ex
很有可能变成 nan
,可以使用 cliped relu
解决这个问题
第二种可能:
数据的问题,数据缺失
跑程序的时候经常碰到 loss
为 nan
的情况,在此记录一下,防止忘记踩过的坑。
第一种可能:
激活函数使用 relu
, 导致最后输出的值很大,
ex
很有可能变成 nan
,可以使用 cliped relu
解决这个问题
第二种可能:
数据的问题,数据缺失