- 博客(1)
- 收藏
- 关注
原创 神经网络鲁棒性和准确度的矛盾及策略
CNN对抗鲁棒性和准确度的矛盾及策略 神经网络的训练过程,本质是一个不断矫正的过程。 1. 谨防矫正过度 需要注意的是,为了提高模型的鲁棒性,必然需要对原始数据进行数据增强,但模型在训练增强后的数据和原始数据的时候,由于两种数据变化相对较大,很容易出现矫正过度的情况。也就是说提高鲁棒性的同时,降低了原始数据的准确度。 2. 矫正过度的原因 之所以会出现矫正过度,是因为正常数据和增强的对抗数据是在不同的batch中作为两次单独训练的,后一次的梯度下降过程为了降低损失,很大几率在调整权重过程中,误伤了正常数
2021-06-03 12:00:11 1271
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人