什么是“预测学习”

Most of human and animal learning is unsupervised learning.

Yann LeCun在NIPS 2016大会主题报告提出了“预测学习”的概念，可以简单理解为深度无监督学习方法。大会报告主要包括深度学习、预测学习、增强学习、基于能量函数的无监督学习、对抗学习五部分内容，本文简要介绍了报告要点，原文PPT获取详见文末。

深度学习

• 所谓“深度”是指不止一层的非线性特征变换，例如卷积神经网络中低层、中层、高层图像特征抽取变换，典型的卷积神经网络如VGG、GoogLeNet、ResNet都用了很深的网络结构
• 深度学习实现了模型全流程的学习（“端到端”），而之前机器学习方法需要手工或无监督的抽取特征
• 卷积神经网络在计算机视觉领域已有很多“令人惊喜”的应用，如给图像配标题、图像语义分割、图像物体识别与定位等

预测学习

• 共识=世界如何运作的常识
• 共识+智能=感知+预测模型+记忆+推理（预测+规划）
  
  • 准确的测量环境状态
  • 关注重要的事件
  • 记住相关的事件
  • 预测何种行为将生成最优结果
• 预测学习（或很多人认为的无监督学习）主要目标是让机器拥有“共识”，即从可获得的任意信息中预测所感知对象（系统状态／行为、图像、语言等）的过去、现在或将来任意部分
• 预测学习的难点在于监督学习预