深度人工神经网络模拟单个皮层神经元1

重点

1.皮层神经元很好地近似于一个深度神经元具有 5-8 层的网络 (DNN)

2.DNN 的深度来自于 NMDA 之间的交互受体和树突形态

3.树突分支可以概念化为一组时空模式检测器

4.提供了一种统一的方法来评估计算任何神经元类型的复杂性

简要总结

利用机器学习的最新进展，我们引入了一种系统方法来表征神经元的输入/输出 (I/O) 映射复杂性。训练深度神经网络 (DNN) 以在毫秒（尖峰）分辨率下忠实地复制皮层神经元的各种生物物理模型的 I/O 功能。需要一个具有五到八层的时间卷积 DNN 来捕获第 5 层皮质锥体细胞 (L5PC) 的真实模型的 I/O 映射。当在训练分布范围之外广泛呈现输入时，该 DNN 可以很好地泛化。当 NMDA 受体被移除时，一个更简单的网络（具有一个隐藏层的完全连接的神经网络）足以拟合模型。对 DNN 的权重矩阵的分析表明，树突分支中的突触整合可以概念化为来自一组时空模板的模式匹配。这项研究提供了单个神经元计算复杂性的统一表征，并表明皮层网络因此具有独特的架构，可能支持其计算能力。

第一节

神经元是大脑的计算构建块。因此，自 Ramon y Cajal 的“神经元学说”以来，了解它们的输入/输出 (I/O) 转换一直是神经科学的一项主要任务。随着最近复杂的遗传、光学和电学技术的发展，很明显，许多关键神经元类型（例如，皮质和海马锥体神经元、小脑浦肯野细胞）是高度复杂的 I/O 信息处理设备。它们通过精心设计的树突分支接收到成千上万的突触输入；这些输入与大量的局部非线性再生过程相互作用，包括反向传播（Na+ 依赖性）动作电位（Stuart 和 Sakmann，1994）、多个局部树突状 NMDA 依赖性尖峰（Schiller 等人，2000；Polsky 等人） al., 2004; Branco et al., 2010; Kastellakis et al., 2015)，以及第 5 层 (L5) 皮质锥体神经元顶端树突处的大而长的 Ca2+ 尖峰（Schiller et al., 1997; Larkum 等人）等人，1999）。

输入突触与这些局部非线性树突特性相互作用，最终在神经元的轴突中产生一系列输出尖峰，携带通过突触传递给数千个其他（突触后）神经元的信息。事实上，由于其固有的非线性机制，神经元可以实现高度复杂的 I/O 功能（Bar-Ilan 等人，2013；Behabadi 和 Mel，2014；Caze´ 等人，2013；Doron 等人，2017 ；Hausser 和 Mel，2003 欧元；Hawkins 和 Ahmad，2016；Katz 等人，2009；Koch 和 Segev，2014；Koch 等人，1982；London 和 Hausser，2005；Mel，1992；Moldwin 和 Segev，2018； Poirazi 等人，2003b，2003a；Shepherd 等人，1985；Tzilivaki 等人，2019；Zador 等人，1991；参见 Gidon 等人最近关于人类皮层神经元非线性树突计算的工作，2020）。研究神经元 I/O 关系的经典方法是构建一个简化模型，省略了它们的许多详细生物学机制。这些模型对神经元的 I/O 特征进行了高度简化的现象学抽象（Lapicque，1907；McCulloch 和 Pitts，1943）。

一种这样的抽象是“感知器”（Rosenblatt，1958），它是迄今为止一些最先进的模式识别技术的核心（LeCun 等人，2015）。然而，感知器的基本功能，即其输入的线性求和和输出生成的阈值，忽略了非线性突触整合过程和输出的时间特性，这些过程发生在真实的神经元中。最近的一些建模研究已经解决了这一差距（Gutig 和 Sompolinsky，2006；Poirazi 等人，2003a；Polsky 等人，2004；Ujfalussy 等人，2018），但要么没有考虑完全多样化的突触输入分布在整个非线性树突树或不旨在以输出尖峰的毫秒时间精度捕获神经元的 I/O 转换。 Jolivet 等人尝试预测神经元响应体细胞输入电流/电导而不是树突突触输入的尖峰活动。 （2008 年）和 Naud 等人。 （2014），并尝试预测神经元响应自然图像的尖峰活动可以在 Cadena 等人中找到。 （2019）和济慈等人。 （2001 年）。研究神经元 I/O 特性的另一种常用方法是通过一组偏微分方程，使用 Rall 引入的电缆和隔室建模方法来模拟神经元的精细电学和解剖学细节（Rall，1959，1964；塞格夫和拉尔，1988 年）。使用这些模型，可以解释几乎所有上述实验现象并探索当前实验技术无法获得的条件。虽然这是迄今为止解释神经元中完整 I/O 转换的唯一方法，但这种成功是有代价的。隔室模型和电缆模型由耦合非线性微分方程的高维系统组成，众所周知，这很难理解（Strogatz，2001）。具体来说，从如此详细的模拟中提取控制数千个突触输入转换为以毫秒精度的脉冲输出序列的一般原则是一项艰巨的任务（但请参见 Amsalem 等人，2020；Larkum 等人，2009； Magee 和 Johnston，1995；Rapp 等人，1992；Schiller 等人，2000；Spruston 等人，1995；Stuart 和 Sakmann，1994；Stuart 等人，1997；Wybo 等人，2021）。

在这里，我们提出了一种利用机器学习领域的最新进展来研究神经元作为复杂 I/O 信息处理单元的新方法。具体来说，在这种情况下，我们利用深度神经网络 (DNN) 的能力来学习非常复杂的 I/O 映射，即神经元的映射。为此，我们训练了具有丰富的空间和时间突触输入模式的 DNN，以模仿具有完全复杂性的 L5 皮质锥体神经元模型的 I/O 行为，包括其精细的树突形态、高度非线性的局部树突膜特性和轰炸神经元的大量兴奋性和抑制性输入。因此，我们获得了一个计算效率很高的 DNN 模型，该模型忠实地预测了该神经元在毫秒（尖峰）时间分辨率下的输出。然后，我们分析了 DNN 的权重矩阵，以深入了解塑造皮层神经元 I/O 功能的机制。通过系统地改变 DNN 大小，这种方法使我们能够表征单个生物神经元的功能复杂性，确定这种复杂性的基于离子通道和形态学的起源，并检查所得 DNN 对突触输入的普遍性不在训练集分布范围内。我们证明了皮质锥体神经元及其形成的网络在计算上可能比以前假设的更强大和“更深”。