浅析ChatGPT-前言
我试图用第一性原理解释 ChatGPT 的工作原理,以及它为何奏效。可以说这是一个关于技术的故事,也可以说这是一个关于科学的故事、一个关于哲学的故事。为了讲述这个故事,我们必须汇集数个世纪以来的一系列非凡的想法和发现。
看到自己长期以来感兴趣的众多事物一起得到突飞猛进的发展,我感到非常兴奋。从简单程序的复杂行为到语言及其含义的核心特征,再到大型计算机系统的实用性,所有这些都是 ChatGPT 故事的一部分。
ChatGPT 的基础是人工神经网络(本书中一般简称为神经网络或网络),后者最初是在 20 世纪 40 年代为了模拟理想化的大脑运作方式而发明的。