什么是 Fine Tune
在深度学习中,我们一般从头开始学习权重矩阵,即:首先进行初始化,然后进行参数学习。
但是在 Fine Tune 中,我们已经有了一个预训练模型,这个模型可以是他人训练好的优秀网络,比如VGG19等。Fine Tune 就是在这个预训练模型基础上的学习过程。
下面举个例子:
Y
=
W
∗
X
Y = W * X
Y=W∗X
假设上面是我们要学的神经网络,W 初始化为 0,此时我们通过梯度下降法不断学习,得到最优目标值 0.5。如果刚开始的时候有人告诉你,W 的值应该在 0.47 左右,那么这是我们就可以从 0.47 开始学习,这样模型收敛速度会大大加快。
什么情况下使用 Fine Tune
- 自己使用的数据集和预训练数据集相似
- 自己的数据集数量太少
- 计算资源太少
- 自己搭建的模型正确率太低