“Human-level concept learning through probabilistic program induction”阅读笔记

最早是上学期元旦的时候老板发邮件让我看这篇paper，但是当时一直在复习随机过程跟矩阵论一直没时间细看。后来这学期选修的机器学习课的老师也安排了这个文献的阅读。于是乎就仔细的看了两遍。。（虽然很科普，没有很多的公式推理，但本人看得还是很模糊），现在把本人的一些阅读认识写下来跟大家共同分享。认识不当之处希望相互指正。

摘要介绍：人类能够通过几个简单的例子就能够学会新的概念，但是机器的学习算法确需要几十甚至几百倍的数据训练才能达到相近的准确性。所以作者在本文中提出了一种计算模型，用来模拟人类的这些学习能力，将其用于识别大量类别的手写字符的。该模型在贝叶斯准则下对观察到的例子给出了最好的解释。在一个具有挑战性的一次性分类任务上，该模型实现了人类层面的性能胜过最近的深度学习方法。该论文也通过”视觉图灵测试”探索了模型创造性泛化能力，表明该模型在很多方面和人类的行为是极为相似的。
主要的理念：语义合成性、因果关系、学会学习；
复杂的概念能够通过“语义合成性”由简单的基元形成；这种的概率语义处理噪声并且支持创造性的归纳然后产生一个类别的例子，不像其他的概率模型，仅仅捕捉真实世界事物的”抽象“的因果结构的过程。学习过程中利用贝叶斯准则下构造的程序最好的解释了观察结果，”学会学习“模型利用分层的先验概率，通过当前的先验知识帮助学习新的概念。BPL能够通过重复使用存在样本的碎片，构造新的样本，用于获取现实生活中产生过程的“因果”属性在多尺度下进行操作。

具体的思路和内容：每个concept都是有多个简单的“组件”构成，”组件“之间