神经网络计算机 集成电路,Nature子刊：清华研究团队盘点类脑计算芯片简史

新智元报道

来源：nature

编辑：雅新

【新智元导读】近日，清华大学研究人员发表在自然子刊上的一篇文章回顾了神经启发式计算芯片的最新进展，同时提出了评估其有效性的四个指标。

再过几天，马斯克就要官宣其脑机接口的最新进展了。

他此前接受采访表示，「Neuralink准备在一年内将脑机接口植入人体」。

人类对大脑的探索从未终止，近年来受神经启发式的计算芯片也取得了举世瞩目的进展。

近日， 清华大学的研究人员回顾了神经启发式计算芯片的最新进展，以洞悉迄今为止取得的进展，提出仍需克服的挑战 。

他们发表在《自然·电子学》上的评论文章还概述了一系列共同设计原则，这些原则可以为新的神经启发性电路、设备和算法的开发提供思路。

链接： https://www.nature.com/articles/s41928-020-0435-7

神经启发式计算芯片的「大地震」

近年来，全球许多研究团队一直在研究受人脑启发的计算技术，比如深度学习算法。尽管人们认为某些技术在更广泛的应用中很有前途，但是常规硬件有时候并不能支撑其计算负荷，因此会限制这些技术的性能。

为了克服现有硬件的局限性，同时要确保受大脑启发的计算技术取得最佳结果，一种可能的解决方案便是创建新的电子组件，以更好地反映人脑的结构。

一类受神经启发的计算芯片是专门为模仿人和其他动物的大脑神经结构的人工智能应用而设计的。

清华大学的研究人员在他们的新论文中仔细研究了神经启发性计算芯片设计的最新发展，并反思了他们在该领域的努力中所汲取的一些教训。

基于NVM的神经启发计算芯片的未来路线图

上个世纪80年代，随着用于超大规模集成电路(VLSI)技术的发展以及对计算能力的强烈需求，人们开始对神经启发式计算芯片产生极大的兴趣。

但是神经启发式计算硬件的想法可以追溯到1957年 Perceptron7 的问世，Perceptron7 是一台专用模拟计算机。

1961年，ADALINE8 通过将分立的可变电阻器组装到能够进行训练的自适应硬件感知器中而构建。但是由于没有高密度设备集成的能力，这些原始硬件的规模巨大，而所包含的突触设备的数量却非常有限。

超大规模集成电路

当 HP Labs 在2008年首次从实验上建立了忆阻器的概念与固态电子器件的联系，利用基本的设备来开发神经启发式的计算芯片，一场根本性的革命就开始了。

2010年，一种模拟演示突触功能的忆阻器被创造出来，这是探索基于NVM的神经启发式计算的首次尝试。

从那时起，各国研究人员针对基于NVM的神经启发式计算的设备、体系结构、芯片和算法投入了越来越多的研究工作。

神经启发计算芯片的里程碑

评估神经启发式计算芯片的有效性的四个指标

除了概述评估大脑启发式芯片的重要指标外，Wu和他的同事还介绍了一套共同设计原则，可以作为该领域未来研究的参考。这些原则主要基于其过去的研究发现和观察结果。

研究人员提出的协同设计工具是他们研究中最重要的部分。在实际的神经启发式计算芯片设计中，如果没有这种协同设计工具，就很难获得高性能的芯片。

例如，可用作突触存储器的非易失性存储器(NVM)设备通常具有固有的内在特性，而这些非理想状态会降低芯片的性能。

但是要降低器件的非理想状态，需要付出很多努力，而且我们无法完全消除它们。因此清华大学研究人员设计的协同设计工具不仅在设备上，而且在电路或系统上可以帮助优化芯片的性能。

论文第一作者Huaqiang Wu表示，「本文的想法来自我们先前设计神经启发性计算芯片的尝试。在过去的研究中，我们发现很难在单个级别(例如设备或电路级别)上优化这些芯片的性能，并且需要使用涵盖广泛领域的共同设计策略来优化此类芯片从设备到算法的各种元素。」

研究人员主要研究了神经启发的计算芯片在支持算法，增强神经网络或人工神经网络方面的潜力。

Wu强调了工程师在评估神经启发式计算芯片的有效性的四个指标： 计算密度、能效、计算精度、芯片学习能力 。

评估神经启发式计算芯片的有效性的四个指标

在回顾过去的研究中，研究人员发现这些指标对于神经启发性计算芯片的设计和优化至关重要，因为它们最能代表芯片的独特功能，以及与传统芯片相比潜在的优势。

比如，计算密度是一种反映芯片面积效率的指标。它使工程师能够确定芯片一次可以存储多少信息，以及它们内存是否足以运行大规模神经网络。

可以从上图中看出，与基于CMOS的芯片相比，基于NVM的芯片具有明显的优势。

因此，NVM是大规模神经启发计算芯片未来主流技术的非常有希望的候选者。

目前已经开发了几种基于NVM的小型芯片，从1000个单元到100万个单元。

然而，集成多个大型模拟NVM阵列的神经启发计算芯片的实现仍然面临许多挑战。从设备到芯片再到算法，还需要进行大量的研究工作。

Wu表示，「希望我们的工作将帮助非专业读者找到更多有关神经启发性计算芯片的信息，同时也将促进这一研究领域的更大发展。」

目前，清华大学研究人员正计划制定其他指南，以加快和促进人工智能和受神经启发的电子领域的研究。他们的这篇论文可以为那些研究受大脑启发的芯片的工程师提供总体路线图。

Wu最后表示，在我们未来的研究中，我们可以将设计神经启发性计算芯片分为两部分：

1 在设备制造和技术集成部分，我们将优化设备性能，制造新的神经启发设备，并探索三维神经启发计算芯片。

2 在芯片和系统部分，我们将开发共同设计工具并设计通用的神经启发计算芯片，尤其是基于NVM的内存计算芯片。

https://www.nature.com/articles/s41928-020-0435-7

https://techxplore.com/news/2020-08-advancements-neuro-inspired-chips.html