清华大学张悠慧：超越冯·诺依曼模型，实现软硬件去耦合的类脑计算（附视频）

软硬件去耦合是计算机系统结构中非常重要的设计方法论。简单来理解，即软件研发人员不需要考虑底层硬件如何设计；而硬件开发人员则只需要遵循一定指令集规范，并不用担心兼容性，也不用考虑上层软件开发问题。多年以来，软硬件去耦合确保了通用计算机体系结构的快速发展。而之所以能够做到软硬件去耦合，其背后的原理便是“图灵机与计算理论”。

 

那么类脑计算，要超越甚至替代冯·诺依曼模型和传统计算机，是否也需要做到软硬件去耦合？该用什么方法实现？这些问题对类脑计算的研究和开发意义重大。 

 

针对这些问题，在第二届北京智源大会“智能体系架构和芯片”专题论坛上，智源学者、清华大学张悠慧做了题为“软硬件去耦合的类脑计算系统设计与思考”的专题报告。

张悠慧，清华大学计算机系研究员，博导，主要从事计算机体系结构，包括处理器设计、类脑计算芯片与基础软件、高性能计算等方向的研究；曾担任多个国际/国内学术会议程序委员会委员及期刊编委；在NATURE、ASPLOS、MICRO、NIPS、DAC等期刊/会议上发表论文近70篇；是国家科技进步二等奖、国家级教学成果二等奖、教育部科技进步一等奖获得者。

 

张悠慧在演讲中首先介绍了类脑计算的起源、应用与发展等研究背景，并分析了以类脑芯片为核心的软硬件和基于“通用”类脑计算开发框架（语言）系统两种类脑计算研究的现状，以及探讨了如何从传统计算机的发展中汲取经验，采用软硬件去耦合、软硬件协同设计等多种方法论，来探索符合类脑计算与神经形态器件特色的设计方法论，最后，张悠慧简述了通用类脑计算当前研究的最新进展和下步工作重点。

 

整理：智源社区 王光华，贾伟

一、研究背景：类脑计算的起源、应用与发展

 

类脑计算或者神经形态计算的历史比较悠远。神经形态计算的鼻祖之一，加州理工的Carver Mead教授在1990年提出“神经形态计算”这个词，并将其定义为“采用以模拟器件仿真生物神经系统的VLSI来实现大规模并行的自适应计算系统”[1]。

 

图1：加州理工Carver Mead教授

 

但这个概念提出的初衷，并不是为了做AI或神经网络计算等，主要是为了追求计算效能。因为传统数字架构，一条指令执行时，需要经过译码、数据传输等一系列操作再进行计算，其“耗能不单是这个计算本身的，而是执行整个计算流程所消耗的总能量”，效能不高。而生物系统的计算效能比数字计算系统计算效能高几个数量级。所以，当时的有识之士，便开始借鉴生物神经网思想，用以提升计算效能。这里主要包括两点：一是使用基本的物理现象作为计算的原语，类似于模拟计算的方法。二是，采用类似Spiking这样的模拟相对值而不是数字的绝对值来进行信息表述。这两点是生物系统能效优势的根本原因，对于提升计算效能具有非常重要的启示。

  

图2：类脑计算所支持的各类应用[2]

 

张悠慧介绍，类脑计算应用目前比较侧重于AI。根据综述文章[2]，类脑计算目前所支持的主要应用是神经网络形式的，但是也有越来越多的工作在探索利用类脑计算实现非神经网络应用。主要包括两种，一种是以神经网络的形式解决图计算、计算优化等非AI的问题；另一种是问题形式、表述形式、解决形式等非神经网络形式的，比如利用脉冲神经网络构建通用计算框架。

 

但2016年的《Nature》文章提到：类脑计算作为后摩尔时代极具潜力的发展方向之一，不能把类脑计算应用只局限于AI，要放宽一点。