这本概率论教材历经四十年完成，堪称集大成的神作，被认为超越百年的经典！...

turingbooks

于 2024-07-30 11:30:21 发布

阅读量202

点赞数

文章标签：概率论

原文链接：https://mp.weixin.qq.com/s?__biz=MjM5Njc0MjIwMA==&mid=2649817521&idx=2&sn=ba3865b42ff71caceace1f043bfddaff&chksm=bf33219064a63b62e8ca66621c9d778c00bab5b32fa98187ec44bbbf66ddbe12fcbf313a0016&scene=126&sessionid=0

版权

他是圣路易斯华盛顿大学和斯坦福大学教授，他的博士论文导师是著名物理学家尤金·维格纳（1963 年诺贝尔物理学奖得主），他在物理学上突出做出了突出贡献，他发表的演讲“一鸣惊人”，改写了教科书的观点，但他毅然选择了概率论，并且在该领域中进行了长达 40 年的持续探索与思考。最终写成这部经典《概率论沉思录》，被无数人奉为神作的教材。

来源 | 《概率论沉思录》

作者 | 埃德温·汤普森·杰恩斯

文/译者 | 廖海仁

《概率论沉思录》是著名数学物理学家E.T. Jaynes的毕生心血之作，直到作者1998年去世也没有最终完成。该书后来由作者的学生兼同事整理。英文版2003年由剑桥大学出版社出版。2009年人民邮电出版社推出该书英文影印版。我于2019年年中着手翻译此书，本意是希望这本经典之作能被更多的中文读者接触到，到今年（2024年）6月底中文版才作为图灵数学经典的第15本正式出版。

著名数学物理学家E.T. Jaynes的《概率论沉思录》三个版本，出版年分别为2003、2009、2024年

本书英文版自出版时起就受到专业人士的广泛关注与赞誉。该书在Google Scholar上已经有超过9000次的专业引用。著名机器学习书籍MLaPP与Deep Learning的作者在其介绍概率论的章节中首先推荐的也都是这本书。该书在国内外都不乏近乎狂热的爱好与支持者。这包括但不限于为英文版写了未正式勘误表及补充说明的资深计算机技术与概率统计专家K.S. Van Horn，在Youtube上为本书做了十几集讲解视频的Anbrey Clayton，2015年就在知乎上写专栏介绍Jaynes的概率论思想的空门同学，国内多位尝试翻译本书甚至完成翻译的各位达人们以及我本人。

我对本书阅读的基本态度一直是：能阅读英文的读者应该直接读英文版，读英文感到吃力者才推荐读中文版，或者中英文参照阅读。这本书的英文版PDF在网上很容易找到。但是根据我自己阅读此书的经验，我并不推荐阅读电子版，因为这样大概率很难最终读完。阅读本书需要心沉气定，以浮躁散漫之心阅读则很难深入。

关于本书翻译以及译后记，我后面会另写文章说明。熟悉翻译书报酬规则的读者应该知道，翻译费与翻译此书的艰辛相比不值一提，所以希望大家不要怀疑我推崇这本书的动机。我起初也只是本书的深度热爱者，深受其影响，并且私淑原作者，这最终驱使我踏上了翻译这部巨作的道路，以期将自己所受的启迪与感动传递给更多国内读者。

读过任何一本普通概率论书籍的读者看到这本书的各章节标题时可能会感到陌生。本书总共22章，但是其中既没有概率论公理，也不谈随机变量，没有单独一章讲期望与方差，甚至没有一章谈大数定律。这的确是一本概率论的“神书”。那么，这本书为什么如此重要并且独特呢？我曾在译后记中总结说“这既是一本数学书，也是一本科学哲学书，还可以看做一本逻辑学书，甚至一本生活智慧书”。我想据此为基础做个扩充说明。本书之所以重要且独特主要在于以下几点：

其一，本书虽然是数学书，但是却提供了独特的概率论的科学视角。我们知道，概率论自从被柯尔莫哥洛夫数学公理化以来一直被当成一门数学。但是从某一角度来说，概率论又很难归为纯数学学科，其直接应用是统计推断。统计学，至少是应用统计学一般被认为是自然科学而非数学。所以在现代大学中，统计学院通常独立于数学学院。数学的研究方法主要是基于逻辑推理、证明和公理系统，其检验标准在于是否符合逻辑，而自然科学的研究方法通常包括观察、实验、假说检验和理论发展，其最终验证标准在于理论结果是否符合实在。人类研究概率论从最开始都与实际应用息息相关，概率的严格验证问题到目前为止都是没有完全解决的难题。

我们一般接触到的概率论书籍绝大多数是顺着柯尔莫哥洛夫的数学思路在发展。威廉·费勒的两卷本《概率论及其应用》可以说是数学概率论方向的巅峰之作。而杰弗里斯《概率论》与这本《概率论沉思录》却是科学概率论的典范之作。概率论科学视角此后的自然发展还有以Judea Pearl为代表的因果推断理论。因果的科学化是人类科学发展史上的又一重要事件。因果推断在人工智能中有着极其重要的作用。个人认为对于理解概率来说，数学和科学两个视角都是必不可少的。数学视角的概率论书籍非常普遍，而科学视角的概率论书籍则是凤毛麟角，而《概率论沉思论》则是科学概率论视角的集大成之作，这是本书极其重要且独特的原因之一。

数学概率论方面的巅峰之作《概率论及其应用》，《概率论沉思录》则是科学概率论视角的集大成之作。

其二，本书同时是一本科学哲学书和逻辑学书。正如读者从之前的本书推广文章中可以知道的那样，本书的主要思想是将概率论视为布尔逻辑与传统亚里士多德逻辑的扩展.在这种思想框架下，布尔逻辑只是概率逻辑的一种特殊情形。众所周知，传统数学是以演绎逻辑为基础的，而概率论却可以作为科学推断(归纳逻辑 + 演绎逻辑)的理论基础。这样，作为扩展逻辑的概率论就是可以融合归纳推理与演绎推理的统一理论。

休谟问题（主要是因果问题和归纳问题）是哲学的基本问题之一。按照本书的框架，概率论的贝叶斯定理即可成为归纳推理的数学定量理论。本书英文名是Probability Theory：The Logic of Science，直译为“概率论：科学的逻辑”。如果将概率论视为科学的逻辑，其重要性就不止是作为一个额外的数学门类。正因为如此，1974年菲尔茨奖得主David Mumford才在其2000年发表的重要文章“The Dawning of The Age of Stochasticity”中表明，传统数学和科学以亚里士多德逻辑为基础，但是现在概率论和统计推断已经成为科学模型，尤其是思维过程模型的更好的基础，也是理论数学的重要组成部分，甚至是数学本身的基础。这一视角将在本世纪对于所有数学理论产生影响。意思是几乎所有数学可能都值得按照这种新逻辑范式改造一遍。Mumford在这篇文章中有一大段引用本书的网络版并讨论Jaynes的思想。

所谓哲学书，一般是指讨论基本概念、基本问题并能加深我们理解之书。概率论历史上能当此任，加深我们对于概率本身理解的书籍其实是不多的，凯恩斯（Keynes）的《A Treatise on Probability》、冯·米塞斯（von Mises）的《概率、统计与真理》、德菲内蒂（de Finetti）两卷本《概率论》以及Jaynes的《概率论沉思录》都可以归为概率哲学书。值得一提的是，像卡尔纳普、波普尔这样的哲学家在科学哲学界肯定是如雷贯耳，他们都提出过对于归纳逻辑的理论与见解，但是作者在本书中对于他们的观点都做了毫不客气的批评。金岳霖先生在其主要著作之一《知识论》也有多个章节讨论归纳推理和因果问题，但那是在本书出版很多年前。从这方面来说，国内的科学哲学界与逻辑学界同仁肯定也值得对这本书重点关注。

其三，本书是（客观）贝叶斯主义的宣言书。本书虽然共有22章，但是绝大多数章节却不属于传统概率论的内容，更多与概率推断相关，更接近于我们一般归为统计推断的内容。不过，本书却将统计推断归在概率论范畴之内，即是典型的贝叶斯主义观点。频率派统计与贝叶斯统计之争是20世纪整个概率统计学界的大争论。在差不多整个20世纪，频率派都处于强势地位，因此也被称为正统统计（Orthodox Statistics），一般的统计推断教科书介绍的也基本是频率派统计。在频率派和贝叶斯之争中，Jaynes是个坚定强硬的贝叶斯主义者（又称贝叶斯原教旨主义者）。他对于正统频率派统计的批评以及贝叶斯主义的辩护贯穿在整本书之中，尤其集中体现在第16章“正统方法：历史背景”与第17章“正统统计学原理与病理”之中。相信绝大多数读者在看过本书近乎无可辩驳的论辩之后，或多或少会转化为某种程度上的贝叶斯主义者。

相对于主观贝叶斯主义者（德菲内蒂是其代表），Jaynes强调，先验概率并非完全主观臆断，而是可以基于逻辑、物理原理或广泛的背景知识来合理设定的。他通过详尽的案例分析，展示了如何在不同情境下构建和运用这些客观先验，从而使贝叶斯方法成为了一种既科学又实用的推理工具。本书很多章节都在讨论将先验信息客观唯一地转化为先验概率分布的方法（比如最大熵方法、变换群方法等）。

空门同学最近在知乎上推荐本书中文版的同时，比较敏锐地指出：相对于原作者，译者缺乏坚定的贝叶斯意识形态。对于这一点，我是承认的，但是这不等于我不认同作者在书中对于贝叶斯主义的精彩辩护与论证。不过对于频率派与贝叶斯派（又主要分为客观贝叶斯与主观贝叶斯）之争，我并没有试图坚定地站在Jaynes所代表的客观贝叶斯主义这一派中，而是试图融通各派，所以才在译后记中写了长长的一节“频率派、客观贝叶斯派、主观贝叶斯派，究竟谁正确”。当然要真正融通也并非容易之事，它们三者之间的是非对错也并非三言两语能够说明。有机会我后面会另外撰文谈论我目前对这个问题的认识。

其四，本书也是一本生活智慧书。有人说，不能改善人生活质量的书不能算好书。我大致认同这种观点。一般数学甚至科学书对于改善人生活质量，提高人的生活智慧是间接的。本书对于特异功能、保险的原理、意见分歧等都有深刻、独到的分析。若能掌握本书的概率论思维方式，的确有可能提升自己面对日常生活基本问题的决策能力，并提高生活质量。

最后我想以本书前言中的一段话结束全文：“人们可能会认为30 年前的著作在今天已经过时了。幸运的是，杰弗里斯、波利亚和考克斯的著作是基础性且永恒的，其中的真理并不随着时间而改变，其重要性反而会随着时间的推移而上升.他们对于推断本质的洞察在30年前只是令人好奇，而今在几个科学领域中愈显重要，并会在未来100 年的所有领域中都至关重要”。目前，本书主要是受到了人工智能与统计物理学界的研究者的瞩目。我希望更多其他不同学术领域的学者、希望深入掌握概率论的广大学子与工作人群能够关注和重视本书。

推荐阅读