所谓“类脑计算”,是指仿真、模拟和借鉴大脑神经系统结构和信息处理过程的装置、模型和方法,其目标是制造类脑计算机。上周,蒋田仔教授,中国科学院自动化研究所,脑网络组研究中心。在CNCC 2016的脑科学与类脑计算分论坛里分享了脑网络组对类脑计算的启示的主题报告。雷锋网(公众号:雷锋网)根据现场分享整理了其中亮点:
脑网络组对类脑计算的启示,我们先了解一个大前提。
脑网络组图谱是类脑计算基础。
注:脑网络组是以脑网络为基本单元的组学,它由脑网络节点和节点之间的连接两个基本要素组成;这两个要素可以从微观(神经元),介观(功能柱)和宏观(脑区)尺度上来定义。
不过现在基于脑网络组图谱的认知计算模型有个问题:现在对于脑功能模块的划分过于粗糙。
对于脑功能模块的划分,看下面这张图,可以知道脑网络组图谱在类脑计算的应用。
-
布洛卡区与维尼克区 -自然语言处理
-
颞叶视觉皮层 -复杂图形识别
-
顶叶皮层 -空间位置信息处理
-
额叶皮层 - 在线决策系统
-
海马及内嗅皮层 -时域信息整合与导航
脑网络组对类脑计算的启示:核心——脑网络信息处理机制是类脑计算的依据。
启示一)脑网络神经元相互作用的基本规律。
下面的相互作用机制,下面从上到下,从左到右。依次是
-
脑网络神经元的相互作用机制。
-
神经元二阶相互作用。
-
神经元高阶相互作用。
-
神经元高阶相互作用特点。
经过大量实验,观察得到的结论是——高阶相互作用是二阶相关的附产物,可以用一个简单的模型精确刻画。
并且关于高阶相互作用,这其中有个关键的研究进展:在2006-2008年的时候,我们认为神经网络并不存在高阶相互作用。但到了2009-2011年的时候,Nature(自然杂志),PNAS《美国科学院院报》等权威杂志相继刊出文章承认高阶相互作用是广泛存在的。
这个趋势对于类脑计算的启示是:
-
刻画和构建网络的复杂度-简化类脑计算体系的设计复杂度。
-
证实一个简单的模型能够用于准确模拟大规模神经网络的活动,是计算复杂度大大降低。-有利于超大规模神经网络的仿真。
启示二)大脑皮层的临界状态研究。
1)目前的神经形态芯片设计
其优点是:分布式处理,事件驱动,低耗能,小体积。(IBM公司在1956年创建第一台人脑模拟器(512 个神经元),其新芯片架构没有固定的编程,把内存与处理器集成在一起,模仿大脑的事件驱动、分布式和并行处理方式。)
其缺点是:整体系统状态固定,不可调。
2)而深度神经网络局限性也正在被大家所熟知:知识不能推广和移植(训练深度神经网络并不是一件十分轻松的工作,神经网络的训练经验不能直接移植。)
3)最近大脑皮层的临界状态的问题,经过大量实验,首次证明脑网络活动位于热力学临界态附近,为理解这些现象提供了统一的框架
-
对整体状态的有效调节。
-
系统信息表征能力最大
-
对外界刺激最敏感。
-
位于混度与有序的边缘。
对于类脑计算的启示是,我们可不可以这样?