用公式推导的反向传播:
sigmoid作为激活函数存的梯度问题比较严重,下面是分析。
用relu激活函数和增加BN层能改善这个问题。
用卷积的形式推导反向传播:
反向传播,梯度消失和激增问题
最新推荐文章于 2023-08-07 01:06:58 发布
用公式推导的反向传播:
sigmoid作为激活函数存的梯度问题比较严重,下面是分析。
用relu激活函数和增加BN层能改善这个问题。
用卷积的形式推导反向传播: