浅谈 元学习 和 预训练的 区别

参考链接：https://www.bilibili.com/video/BV1J4411a7Bz?p=5&vd_source=f2c3863e406c1dddecc7fb03f6373a4a

1.相同点

二者都是用来寻找初始化参数的方法

2.不同点

二者目的不同。

2.1 元学习

元学习不在乎模型在train task上的表现如何，而在乎模型在test task上的训练如何。
如下图，参数 Φ 在两个任务上的表现都不是最好的，但向左向右走一点就可以找到最优值，元学习就是为了找到“在所有任务上的良好初始化参数”，这个参数更新几步就能找到最优值。
（看中model的潜力）
一般情况下，test中的updata次数比train中的update次数要多。

2.2 预训练

而预训练是找到在train task上可以表现比较好的参数，而不关心他在test task上的表现，如下图。
（看中现在model的表现）