Geoffrey E. Hinton 的Learning multiple layers of representation可作为初学deep learning的paper之一吧~
结合以前所学习的paper资料,随便记录一二,没有参考价值~
Deep learning (以下简称DL),这种深度架构,还是对人的视觉理解的一种模拟~
compute vision这个领域中,重大的突破往往能从人的视觉原理来解释它~
这或许正是machine learning的依据~ 机器只能在最大程度上模拟人脑,难于超越之~
正因为人的视觉理解中的,存在着多层表示的深度架构,所以神经网络NN, CNN, RMB, DBN等一步步发展~
Back-propagation 后向传输,来有效计算神经网络~
但是它要求是有标签的训练数据,并在深度网络中不能够很好的work~
学习这种多层生成模型,比较难~ 但是每次只学习一层非线性的、分布式表示,将会容易很多~
(多层RMB,层叠起来~)
1、学习特征描述子