神经网络训练过程——归一化理解

最新推荐文章于 2024-04-28 09:36:30 发布

爱吃芒果的小z

最新推荐文章于 2024-04-28 09:36:30 发布

阅读量1k

点赞数 20

文章标签：神经网络人工智能深度学习

本文链接：https://blog.csdn.net/m0_58979029/article/details/136762870

版权

1.归一化操作的定义

归一化操作是指对数据进行处理，使其符合一定的标准或范围，以便更好地适应模型的训练和提高数据的可比性。在深度学习中，归一化操作主要是对输入数据进行线性或非线性变换，使其均值为0，方差为1，或者将数据缩放到特定的范围内，如[0, 1]或[-1, 1]等。

通过归一化操作，可以消除数据特征之间的量纲影响，加速模型的收敛速度，提高模型的准确性和泛化能力。

常见的归一化操作包括批量归一化（Batch Normalization）、层归一化（Layer Normalization）、组归一化（Group Normalization）等，它们可以针对不同类型的神经网络结构和任务需求进行选择和应用。

2.归一化操作的计算公式

归一化操作的计算公式如下： $\hat{x} = \frac{x - \mu}{\sqrt{\sigma^2 + \epsilon}}$ 其中：

$x$ ：输入数据。
$\mu$ ：输入数据的均值。
$\sigma$ ：输入数据的标准差。
$\epsilon$ ：一个很小的数，避免除以零。

实际应用中的归一化操作还会包括仿射参数（scale和shift）来进行缩放和偏移来保留网络的表达能力。

3.批量归一化计算过程

以批量归一化为例，给出归一化计算过程。

给定一个 mini-batch 数据 $B=\left \{ x_1, x_2, ..., x_m \right \}$ ，其中 $m$ 是 mini-batch 的大小， $x_{i}$ 是 mini-batch 中的样本，批量归一化的过程如下：

1.计算 mini-batch 的均值和方差：

$\mu_B = \frac{1}{m} \sum_{i=1}^{m} x_i$

$\sigma^2_B = \frac{1}{m} \sum_{i=1}^{m} (x_i - \mu_B)^2$

2.归一化数据：

$\hat{x}_i = \frac{x_i - \mu_B}{\sqrt{\sigma^2_B + \epsilon}}$

3.应用仿射变换： $y_i = \gamma \hat{x}_i + \beta$

其中， $\gamma$ 和 $\beta$ 是可学习的缩放（scale）和偏移（shift）参数，它们通过反向传播进行更新。 $\varepsilon$ 是一个很小的常数，避免除以零的情况。在实际应用中，批量归一化的公式可能会有一些变化，具体取决于不同的实现和网络结构。但一般来说，批量归一化会包含仿射参数，以保留网络的灵活性和表达能力。

4.归一化操作过程可以加速优化的原因

在深度学习中，归一化操作（如批量归一化、层归一化等）可以带来以下几个好处，从而加速训练中的优化过程：

消除梯度消失或爆炸问题：在深度神经网络中，随着网络层数的增加，梯度在反向传播过程中可能会变得非常小（梯度消失）或非常大（梯度爆炸），导致训练困难。通过归一化隐藏表示，可以使特征的范围保持在一个较小的区间内，从而有助于缓解梯度消失或爆炸问题。
加速收敛：归一化隐藏表示可以使每一层网络的输入分布稳定，有利于模型更快地收敛到最优解。这样可以减少训练时间，加速模型的收敛过程。
提高泛化能力：归一化操作有助于减少网络对数据中微小变化的敏感度，从而提高模型的泛化能力。通过减少内部协变量偏移，模型更容易适应不同的数据分布，提高模型的泛化能力。
降低参数初始化对训练的影响：归一化隐藏表示可以降低对参数初始化的敏感度，使得不同初始化方法对模型性能的影响减小。这样可以简化模型训练过程，减少需要调整的超参数数量。

5.常见归一化操作的特点和应用场景

在深度学习中，常见的归一化操作包括以下几种，它们分别应用在不同领域并具有各自的特点和解决的问题：

1.批量归一化（Batch Normalization，BN）：

领域：主要应用于卷积神经网络（CNN）和全连接神经网络。

特点：通过对每个特征维度进行归一化，使得网络中每层的输入分布更稳定，加速网络的训练。

解决问题：缓解了梯度消失和梯度爆炸问题，有助于加速收敛速度和提高训练稳定性。

2.层归一化（Layer Normalization，LN）：

领域：主要应用于循环神经网络（RNN）和自注意力模型（Transformer）等序列数据处理任务。

特点：对每个样本的所有特征进行归一化，使得不同样本之间的特征分布更稳定，适用于序列数据处理。

解决问题：缓解了梯度消失和梯度爆炸问题，有助于提高序列数据模型的训练效果。

3.组归一化（Group Normalization，GN）：

领域：适用于一些较大的模型，例如大规模图像分类或目标检测任务。

特点：将特征分为多个组，每个组内部进行归一化，有利于一定程度上控制特征之间的相关性。

解决问题：适用于一些特定的大规模任务，能够提升模型的泛化能力。

4.实例归一化（Instance Normalization）：

领域：主要应用于图像风格迁移、图像生成等任务。

特点：对每个样本的每个通道进行归一化，保留了样本之间的信息，适用于需要保留实例特征的任务。

解决问题：有利于提高模型对实例信息的建模能力，适用于一些需要保留实例特征的任务。

这些归一化操作都旨在解决神经网络训练中的梯度消失、爆炸问题，加速模型的收敛速度，提高模型的稳定性和泛化能力。根据不同的任务和数据特点，选择合适的归一化操作可以帮助提升模型的性能。

爱吃芒果的小z

关注

20
点赞
踩
18

收藏

觉得还不错? 一键收藏
1
评论
神经网络训练过程——归一化理解

归一化操作是指对数据进行处理，使其符合一定的标准或范围，以便更好地适应模型的训练和提高数据的可比性。在深度学习中，归一化操作主要是对输入数据进行线性或非线性变换，使其均值为0，方差为1，或者将数据缩放到特定的范围内，如[0, 1]或[-1, 1]等。通过归一化操作，可以消除数据特征之间的量纲影响，加速模型的收敛速度，提高模型的准确性和泛化能力。
复制链接

扫一扫