全文共1596字,预计学习时长4分钟
图源:unsplash
元学习是深度学习领域中最活跃的研究领域之一。人工智能界的一些学派赞同这样一种观点:元学习是开启人工通用智能(AGI)的垫脚石。
近年来,元学习技术的研究和开发呈现爆炸式增长。然而,元学习背后的一些基本思想仍经常被数据科学家和工程师误解。因此,笔者认为有必要回顾一下元学习的一些基本概念、历史以及该领域中一些流行的算法。
元学习背后的思想可以追溯到1979年,唐纳德·毛兹利(Donald B. Maudsley)在其作品中将新的认知范式重新定义为“学习者意识到并逐渐控制其内化的感知、探究、学习和成长习惯的过程”。
1985年,约翰·比格斯(John Biggs)在其作品将元学习更简单地定义为“了解并控制自身学习”。虽然从认知科学的角度来看这些定义很准确,但要适应人工智能的具体工作似乎有点困难。
在人工智能系统中,元学习可以简单地定义为获取知识多功能性的能力。人类能够以最少的信息同时获取多个任务。我们可以通过查看单张图片来识别一种新物体,也可以同时学习复杂的多任务活动,比如开车或驾驶飞机。
虽然智能体可以完成非常复杂的任务,但它们需要对任何原子的子任务进行大量训练,而且在处理多任务时仍然非常糟糕。因此,通往知识多功能性的道路需要智能体“学会如何学习”,或用术语来形容,就是元学习。
元学习模型的类型
人类在学习时,会根据具体情况采用不同的方法。同样,并非所有的元学习模型都采用相同的技术。一些元学习模型关注的是优化神经网络结构,而另一些模型(如Reptile)则更注重于寻找合适的数据集来训练