神经网络受生物神经网络启发而来,但大脑里的学习过程真如深度学习那样吗?这个问题的答案有望实现更强大的深度学习模型,也有助于进一步了解人类的智能。
12月5日,CIFAR研究员、多伦多大学的Blake A. Richards和同事在期刊eLife发表了论文《尝试用分离的树突进行深度学习》(Towards deep learning with segregated dendrites)[1]。他们在论文中提出了一种算法,对大脑中可以如何进行深度学习进行了模拟。他们构建的网络表明,某些哺乳动物神经元具有适合进行深度学习的形状和电学特性。不仅如此,他们的实验也用一种更接近生物学的方法,展示了真实的大脑如何进行深度学习,甚至有望帮助解释大脑如何演化出了“学习”的能力。
如果神经元与深度学习之间的关联得以确认,我们就能开发更好的脑机接口,从疾病治疗到增强智能,随之而来的应用也将开启各种可能。
哺乳动物大脑的神经元也能做深度学习
这项研究由Richards和他在多伦多大学的研究生Jordan Guerguiev一起,与DeepMind的Timothy Lillicrap合作完成。
我有几张阿里云幸运券分享给你,用券购买或者升级阿里云相应产品会有特惠惊喜哦!把想要买的产品的幸运券都领走吧!快下手,马上就要抢光了。
实验中使用的神经元是小鼠大脑新皮质的树突细胞。新皮质脑区负责一些高等功能,比如知觉、运动指令的产生,与空间推理、意识及人类语言也有关系。而树突则是从神经元细胞本体发出的多分支突起,形状类似树木。树突是神经元的输入通道,将从其他神经元接收到的动作电位(电信号)传送至细胞本体。
研究构建的“多房室神经网络”模型示意:左边是小鼠初级视觉皮层锥体神经元;右边是简化的神经元模型。来源:CIFAR
利用这种神经元结构的知识,Richards和Guerguiev建立了一个模型,叫做“多房室神经网络”(multi-compartment neural network model)。在这个网络中,神经元都在隔开的“隔间”中接收信号。由于一段一段隔开,不同层的模拟神经元能够协作,实现深度学习。
结果发现,在识别手写数字时,多层网络的效果明显好于单层的网络。算法能够利用多层网络结构识别高阶表示正是深度学习的核心标志。这表明小鼠大脑神经元跟人工神经元一样都能进行深度学习。
“这只是一组模拟,所以不能准确反映大脑正在做什么。但是,如果大脑可以使用AI使用的算法,这已经足以证明我们可以开展更进一步的实验调查了。”Richards说。