来源:德先生
概要:近日,他因提出capsule 概念,推翻反向传播再次引发广泛关注与热议。
Geoffrey Hinton,被称为“神经网络之父”、“深度学习鼻祖”,他曾获得爱丁堡大学人工智能的博士学位,并且为多伦多大学的特聘教授。在2012年,Hinton还获得了加拿大基廉奖(Killam Prizes,有“加拿大诺贝尔奖”之称的国家最高科学奖)。2013年,Hinton 加入谷歌并带领一个AI团队,他将神经网络带入到研究与应用的热潮,将“深度学习”从边缘课题变成了谷歌等互联网巨头仰赖的核心技术,并将HintonBack Propagation(反向传播)算法应用到神经网络与深度学习。近日,他因提出capsule 概念,推翻反向传播再次引发广泛关注与热议。
从Geoffrey Hinton家族开始说起
Geoffrey Hinton出生于战后英国的温布尔登,他的父亲叫Howard Everest Hinton,是个英国昆虫学家,喜欢研究甲壳虫。他的母亲Margaret是一位教师。而他们一家也都流淌着饱含聪明才智的DNA:他的叔叔是著名的经济学家Colin Clark,正是他发明了“国民生产总值”这个经济学术语;他的曾曾祖父是著名的逻辑学家George Boole,他发明的布尔代数(Boolean algebra)奠定了现代计算机科学的基础。
Geoffrey Hinton的学习生涯
早在1960年代,Geoffrey Hinton的高中时期,就有一个朋友告诉他,人脑的工作原理就像全息图一样。创建一个3D全息图,需要大量的记录入射光被物体多次反射的结果,然后将这些信息存储进一个庞大的数据库中。大脑储存信息的方式居然与全息图如此类似,大脑并非将记忆储存在一个特定的地方,而是在整个神经网络里传播。Hinton为此深深的着迷。对Hinton来说,这是他人生的关键,也是他成功的起点。
但是,Hinton的“AI之路”走的并不平坦。
Hinton先是进入了克利夫顿大学,毕业后,他进入了剑桥大学国王学院攻读物理和化学,但仅读了一个月后就退学了。他谈到:“我那时候18岁,第一次离开家自己生活。当时的工作十分繁重