https://blog.csdn.net/qq_37541097/article/details/104434557
值得注意的时batch normalization最后的grmma 和 beta是通过训练得到的,一般是符合训练集总体样本的均值和方差。
所以在测试的时候,是需要将测试数据转换成训练集时用的分布。
[转载自用]Batch Normalization详解以及pytorch实验
本文详细介绍了Batch Normalization在深度学习中的作用,强调了它如何帮助训练过程,特别是在调整测试数据以匹配训练集分布的重要性。同时,讨论了在实际应用中如何利用训练得到的gamma和beta参数来优化模型性能。
摘要由CSDN通过智能技术生成