Yann LeCun:发现智能原理是AI的终极问题 | 独家对话

导读:《科学之路:人,机器与未来》一书中,图灵奖得主,卷积网络之父杨立昆(Yann LeCun)提出,在科学史上,技术产品的出现往往先于解释其工作的理论和科学。发现智能工作的潜在机制和原理,是他未来几十年的研究规划。

新书分享会上,北京智源人工智能研究院院长黄铁军、清华大学计算机系副教授刘知远、知名科学科普博主袁岚峰三位人士,就AI是技术还是科学、人工智能的生物启发等话题进行了高屋建瓴的探讨。智源社区针对访谈核心内容进行摘录,并进行了不改变原意的整理。

嘉宾介绍

杨立昆(Yann LeCun):图灵奖得主,卷积网络之父,Facebook首席人工智能专家,纽约大学教授;

黄铁军:智源研究院院长,北京大学计算机学院教授;

刘知远:清华大学计算机科学与技术系副教授、智源青年科学家;

袁岚峰(嘉宾主持):知名科学科普博主,“科技袁人”节目主理人,中国科学技术大学副研究员。

对话整理:李梦佳 周致毅

01

神经网络的诞生——反向传播算法的前世今生

(首先,杨立昆介绍了神经网络和反向传播算法的诞生历程)

杨立昆:人们认识我大多源自于卷积神经网络。这种模型是一种组织神经元之间的连接,并将神经元组织成多层结构的特殊方式,其灵感来自哺乳动物的视觉皮层结构。这种模型结构非常适合于图像识别甚至医学分析等领域的应用。

比如,现在车辆的挡风板上都有感应摄像头,能识别到汽车前方的障碍物,及时自动停车,避免碰撞。现在的大屏电视,可以从低分辨率信号中获取高分辨率视频。这也被用于医学中的肿瘤自动检测系统,如拍X光片和核磁共振等医学成像技术。这些都是源于卷积神经网络。我参与发明的技术无处不在,甚至可以挽救生命,这是我引以为傲的事情。

其实神经网络最初的想法来自上世纪60年代Hubel和Wiesel在神经科学领域的经典著作。上世纪七八十年代,日本科学家福岛邦彦,构建了首个基于无监督学习的卷积神经网络,但当时还没有反向传播算法,训练效果受到一定局限。

而我和同事们是第一批成功实践了卷积神经网络的人(即杨立昆1988-1989年期间在贝尔实验室提出LeNet)。当时没有PyTorch、TensorFlow等工具,需要自己写深度学习环境,也没有Python,需要写自己的语言进行交互。当时也没有Linux和Windows操作系统,需要使用昂贵的平台来处理图像系统。因此,当我们付诸心血来构建能实现它的工具,并精心设计结构使其奏效之后,便开启了一种新的技术突破。在我看来这项突破并不算知识突破,因为站在知识的角度上,其原理早已存在。

d61e7b1f1ba33f5cb883682da53a19c1.png

杨立昆在贝尔实验室期间提出LeNet

卷积神经网络的成功离不开反向传播算法。1986年,我用法语写了一篇论文发表,却无人问津,如果用英语写也许会让更多人看到,我在书里也写到了这个故事。当时我独立地提出了反向传播算法的原型,并不知道Hinton也有相似的观点。在20世纪60年代,即使人们知道使用多层卷积可以提升神经网络的效果,也无法设计出合适的优化算法。因为他们使用的是二进制神经元,函数的间断导致在一些区域内导函数不存在࿰

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值