meta learning

最新推荐文章于 2023-05-28 16:14:15 发布

缦旋律

最新推荐文章于 2023-05-28 16:14:15 发布

阅读量468

点赞数

分类专栏：李宏毅ML+DL

小陈一行一行地敲出来的啦~

本文链接：https://blog.csdn.net/weixin_41391619/article/details/105365270

版权

本文介绍了Meta Learning的基本思想，通过对比与Machine Learning的区别，解释了Meta Learning的目标是学习一个能针对不同任务提供最佳神经网络的F。接着详细讨论了MAML（Model Agnostic Meta-Learning）的原理，包括其与模型预训练的区别，并提到了Reptile算法作为另一种方法。

摘要由CSDN通过智能技术生成

差不多要一个月没有看李老师的视频了，昨天终于又点开了收藏夹里的视频，OK，开始吧~

一.概述

1.什么是meta learning

在这里插入图片描述
像上图蓝色笔圈起来说的，当准备用一个神经网络解决一个任务时，神经网络的架构（比如是CNN还是RNN,是VGG还是resnet）、初始值的设定、参数更新方式（比如是SGD还是Adam）都是我们自己决定的，meta learning的目的就是学习一个F，这个F能针对不同的任务，给出解决问题的最好NN。（可能不一定是最合适的，但是比我们自己瞎设定初始值、更新方式会好一点）

2.meat learning和machine learning的区别

在这里插入图片描述
        上图是老师的解释，感觉有点抽象，这里举一个例子：
        有很多种怪兽（每一种怪兽都有很多只），相当于是需要我们解决的不同task；我们有很多种武器来对付不同的怪兽，武器就相当于图中的f，即某一具体的NN。
        machine learning：
                针对某种怪兽（即针对某一task），
                我们目前已经捕获了一定数量的该种怪兽（即train_set）,
                根据这些被捕获的怪兽挑打磨出最适合对付该种怪兽的武器(即根据train_set找出最适合的f^*)；
                但在