先给出贝叶斯公式的通常写法(即教科书写法):
为了理解它,需要理解很多的概念,最后过了一段时间可能还是记不住…
然而,如果我们将贝叶斯公式换一个写法,其中代表的含义以及如何使用它就令人恍然大悟了。
曾经的解释
曾经很多人对贝叶斯公式给出的解释是,先根据经验拍一个先验概率,然后再逐步根据实际观测的结果对先验概率进行微调。写法如下所示:
其中,可以将设为u,这样就成了:
如果u>1,则增加事件发生的概率,如果u<1,则降低相应的概率。
那么u代表什么含义呢?其实uu就是根据实际信息生成的一个微调杠杆,随着实验次数的增加,它会不断的增强或者否认先验结论P(A)。
值得品味的是,这就是我们人类的思维方式!我们对待任何事物,几乎都是按照这种方式进行的,首先凭直觉对事物有个大概的印象,然后根据后续发生的一系列事件对这个初始印象进行修正,虽然最终我们可能依然是在盲人摸象,但至少是在不断逼近真理。
以上是贝叶斯公式蕴含的生活哲学。
因果对称解释
我不知道之前有没有这种解释,我是没有看到。这个解释是我在下班的班车上突然想到的,觉得不错,就即时总结下来,写成这篇文章。
贝叶斯公式的两边同时乘以P(B),得到以下的等式:
嗯,就是它!
我先来解释一下的含义。
两个概率相乘,并不总要理解成两个事件同时发生的概率,其实从其字面意义理解更简单。这里先从全概率公式说起。
先看下全概率公式:
公式本身很简单,关键是如何来理解它。其实,关键就是如何理解每一个乘积,它代表什么。我这里给出一个解释:
全概率P(B)其实是一个数学期望,它表示事件B发生的概率的期望,假设引起事件B的前因有i个,分别是A0到Ai,那么事件B的发生的概率就成了事件Ai的概率组合,它的期望自然而然就是每个原因导致B发生的概率,乘以每个原因的概率之和 (这一个解释和信息熵的期望的解释是一样的)。
请注意,上述解释中,Ai是原因,而B是结果。理解了这个全概率公式里关于条件概率乘积的解释,我们就可以理解上述的贝叶斯公式的变形了。
我们先来看式子的左边,其中
代表假定事件B发生的前提下,事件A发生的概率,乘以P(B)表示上述假定确实发生的概率,这里B是因,A是果。
再看右边,不用再重复上段的解释,最终,A是因,B是果!然而这二者却是相等的。这意味着什么?!
这意味着事件的发生关于时间是对称的!如果你相信数学,那么我们的宇宙关于时间的演化就是对称的!没有什么因果区分,如果A发生于B之前,那么如果时间倒过来的话,BB显然发生在A之前,它们的概率竟然是一样的!
这很有意思!单凭这个式子,即使是上帝也无法确定时间流逝的方向:
这到底是宿命论,还是因果论的崩塌!
只是把贝叶斯公式做了一个最简单的移项处理,竟然可以得到这么一个结论,我本来是相信自由意志的,但是这个式子明显表示因果和果因根本就是一一对应的,这是注定的,难道是数学错了?除非概率论本身的根基就是错的,不然这一定是一个真理,就算没有贝叶斯,相信随便一个人也会很快得出相应的结论:
我们从最基本的开始:
所以就有:
这难道不是显然的吗?即便没有贝叶斯,这也是显然的。然而这式子本身并不重要,重要的是这表达了一种全新的解答问题的方式,和本文第一种解释完全契合。
执果溯因这种方法论意义上的指示不是形而上的,而是物质的,是客观的真理!
几乎所有人的一生都是不断事件的结果寻找原因的过程,我记得我女儿小小小时候学说话的时候,从来都是不断模仿而不管其什么含义,其它的行为也是不断试错,从周围的人的反馈来获取信息,然后就知道了自己这么做是对还是错,是该加强还是该削减。
抛开个人不谈,几万年甚至几十万年前的原始野人,在没有任何可供现成学习的经验的前提下,也是靠不断的运用贝叶斯公式来逐渐逼近事物真实的原因的,当原因猜到他们认为八九不离十正确的时候,他们便可以运用这个判断去指导一些自由的行为了,这正是文明最终产生的根本源动力,搞了半天原来就是一个贝叶斯公式!
也许现在你应该明白为什么AI领域的机器学习中贝叶斯这个名字如此普遍存在了吧,难道原始野人的进化过程不就跟机器学习的过程很类似吗?
…