torch之BatchNorm2D详解

最新推荐文章于 2025-03-19 16:45:42 发布

Nicola-Zhang

最新推荐文章于 2025-03-19 16:45:42 发布

阅读量3w

点赞数 9

分类专栏： torch

本文链接：https://blog.csdn.net/yangwangnndd/article/details/94901175

版权

本文深入探讨了PyTorch中BatchNorm2D的原理，结合知乎和简书上的资源，详细解释了BatchNorm2D的参数设置，特别是affine参数的理解，并通过官方手册解读其作用。同时，文章分析了BatchNorm2D的源码实现，包括__init__函数，以及register_parameter和register_buffer的使用。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

知乎上面有关各种Normalization算法理解
简书上关于BatchNorm2d参数解释
note 11:BatchNorm2D官方手册，具体解析，如下：

How to set learning rate as 0 in BN layer中所讲有关的参数affine理解如下：

Setting affine=False will remove the gamma and beta terms from the calculation, 
thus only using the running mean and var. So that’s basically, what you want.
I don’t know, how Caffe works, but setting the learning rate