智能计算机科学的奠基人,【编注】神经网络算法奠基人之一沃尔特·皮茨的传奇故事...

该楼层疑似违规已被系统折叠 隐藏此楼查看此楼

当皮茨开始了在MIT的工作，他发现虽然遗传学要对整体的神经特征负责，但是我们的基因没有办法决定大脑中数万亿个的神经突触连接——所需要的巨大的信息量是无法维持的。他认为，情况一定是我们一开始得到的是随机的神经网络——概率较高的状态，包含可以忽略不计的信息量(这种观点的辩论一直持续至今)。他怀疑随着长时间对神经元阙值的调整，这种随机性会渐渐让位于有序性，而信息就涌现出来了。他着手用统计力学来为这个过程建模。维纳激动的鼓励他，他知道如果将这样一个模型植入一台机器的话，它就将能够「学习」。

「我现在一下子就有七八分明白维纳的话了，他告诉过我这些东西将实现巨大成就。」皮茨在他抵达MIT三个月后的1943年12月写给麦卡洛克的信中这样写到。他与维纳的工作是「建立一个对统计力学的充分讨论，使其可能的最宽泛意义被理解，比如解释如何从微观的神经生理学推导出心理学或统计学的行为规律……这听起来不错吧？」

这年冬天，维纳把皮茨带到了一个在普林斯顿举办的一次学术会议，是由他和数学家、物理学家约翰·冯诺依曼(John von Neumann)组织的。冯诺依曼也对皮茨同样印象深刻。这样就形成了一个被称作「控制论学家」的圈子，其核心人物包括维纳、皮茨、麦卡洛克、莱特文和冯诺依曼。在这个稀有的圈子里，那个曾经无家可归的离家小孩举足轻重。「我们中间没有人敢不经他的修改或认可就发表论文，」麦卡洛克这样写道。莱特文说「(皮茨)毫无疑问称得上是我们圈子里的天才，他在化学、物理学、历史学、植物学等几乎所有你能说出的学问里都是无人可比的。你问他一个问题，他的回答可以写成一本教科书......对于他来说，世界是以一种非常复杂而奇妙的方式连接在一起的。」

接下来的1945年6月，冯诺依曼撰写了一份历史性文件《EDVAC报告书的第一份草案》(First Draft of a Report on the EDVAC)，这是第一份公开发表的关于存贮程序概念的二进制计算机器——现代计算机。EDVAC(离散变量自动电子计算机)的前任ENIAC(电子数值积分计算机)位于费城，占用面积1800平方英尺(约167平方米)。与其说ENIAC是计算机，还不如说更像是一台巨大的电子计算器。它也是可以重新编程的，但是需要几个操作员花几周的时间重新连接电线和开关。冯诺依曼意识到可能你不必每次想运行一个新函数时都将机器重新布线。如果你可以收集开关和电线的配置，然后将它们抽象化，用符号来编码成纯粹的信息，就能像输入数据一样将它们输入计算机，只是现在数据中还包括用来处理这些数据的程序。根本不需要任何重新布线，你就拥有了一台通用图灵机。

为了完成这个任务，冯诺依曼建议让计算机以皮茨和麦卡洛克的神经网络为模型。代替神经元作为逻辑门的是他所建议的真空管，它们完全按照皮茨和麦卡洛克发现的方法被串在一起，你可以用来进行任何计算。为了能将程序以数据的形式保存，计算机还将需要另外一样新东西：内存(记忆)。这就是皮茨的链环的作用。「一个自激发元素将保持这种激发状态，」冯诺依曼在他的报告中写道，这是借用皮茨的话，他还借用了皮茨的模数(modulo mathematics)。他详细的描述了这种全新的计算架构。整个报告只引用了一篇论文，即皮茨和麦卡洛克的《逻辑演算》。