Dean Pomerleau还记得自己第一次遭遇“黑箱”的经历。那是1991年,他当时正开创性尝试如今已是自动驾驶汽车研究中司空见惯的问题:教会电脑如何开车。
在每次行程中,Pomerleau都会先对系统做几分钟训练,然后让它自行驾驶。一切似乎都进展顺利,直到有一天,悍马在一座桥头突然偏向一侧。他敏捷地抓住了方向盘,这才避免了一场事故。
一些研究者认为,能进行深度学习的计算机最终或能表现出想象力和创造力。“把数据交给机器,它便会推理出自然法则。”加州理工学院物理学家Jean-Roch Vlimant说。
但这些进展只会让黑箱问题显得更突出。例如,这些机器如何找到有价值的信号?人们怎样才能确定机器是对的?人们对深度学习的信任应到什么程度?
Baldi认为,科学家应该拥抱深度学习技术,而不必太介意黑箱问题。毕竟,所有人的脑袋里都有一个黑箱。“人们一直在使用大脑,也始终相信大脑,但并不知道它是怎么工作的。"