【最优估计学习笔记】贝叶斯公式的深入理解

贝叶斯公式在概率论和机器学习等学科中的地位和作用不需要我再多言，我认为用“核心”和“美”来形容丝毫不为过，但是很多同学可能还对贝叶斯公式的含义不是完全理解，如果光听课堂老师“PPT”复读机似的播放和各本书抄来抄去的概念描述和公式堆砌，想必大家也很难对其有更加深入的理解。下面说说我对贝叶斯公式的理解。

在当下这个网络社会，我们每天都要盯着各种终端（手机、PC、PAD和电视等）的屏幕，盯时间长了，大家眼睛都不太好，都会患有不同程度的近视，最后视力越来越差，最后不得不戴上眼镜，所以现在很多女生不戴眼镜，反而成了少数。假设我们走在大姐上，迎面过来一位美女，这位美女就不戴眼镜，文质彬彬，我们肯定心里面会想一下，这位小姐姐是做什么的，能把明亮的双眼保养得这么好？看气质，她可能是老师，但是看身材她也像一位模特，当然她也可能是做其他职业的。那么，我们如何能尽量准确的预测出她到底是做什么的呢？其实，这个问题可以用贝叶斯公式的模型进行分析，那么如何来分析呢？

我们可以先把这个问题具象化，先代入几个数字。假设我们面对500名女生，这500名女生不是教师就是模特，根据行业大数据，教师和模特在数量上的比例为7:3（毕竟模特需要颜值身材都比较好，而且确实是青春饭，而老师包括从幼儿园到大学的各个段位，所以老师的数量肯定是多的）。教师是一个需要经常看书写字的行业，模特在这方面工作量不是很大，因此不戴眼镜的模特的比例一定高于教师，我们不妨假设教师不戴眼镜的比例是0.2，而模特不戴眼镜的比例是0.8。按照这个数据和逻辑，我在这群人里面随机找一个不戴眼镜的人，这个人是教师的概率是多大呢？

其实这个问题很简单，我们不妨简单计算一下。人群中一共500个人，这500个人不是教师就是模特，且二者人数的比例是7:3，那么我们可以简单算出教师的人数是350人，模特的人数是150人。按照他们各自群体不戴眼镜人数的比率，教师中有350×0.2=70人不带眼睛，而模特则有150×0.7=105个人不戴眼镜。那么其实我们很容易就可以算出随机找一位不戴眼镜的女生，这个女生是教师的概率是多少？即：
$$P_{不带眼镜的女生是教师}=\frac{70}{70+105}=0.4\text{\hspace{1em}(1)}$$
也就是说，按照上述比例和人数分配，这位不带眼镜的女生是教师的概率不足一半，是0.4。$P_{不带眼镜的女生是教师}$这个写法还是不太有数学的美感，我们可以用条件概率的表示方法把它重新写一下，表示为：
$$P_{不带眼镜的女生是教师}=P(这个女生是教师|这个女生不带眼镜)$$
也就是，在“这个女生没带眼镜”的条件下，这个“这个女生是教师”的概率是多少？进一步简化，我们把后者记为事件$B$，前者记为事件”A“，则上面的条件概率就简化表示为$P(A|B)$。下面我们再回顾一下刚才阐述概率结果的计算过程。实际上，公式（1）分子的70是如何计算出来的？很明显：
$$70=500\ast 0.7\ast 0.2$$而，0.7的本质就是教师占总共女生人群的比例，可以写成$P(A)$。而0.2是什么呢？是表示”教师中不戴眼镜的女生“占教师的比例，也可以用条件概率来表示，即：$P(B|A)$。因此公式（1）中分子可以改写成

$$70=500\ast P(A)\ast P(B|A)$$，公式（1）中的105可以写成什么呢？它表示模特中不带眼镜的人数，咋么算出来的呢？即：
$$105=500\ast P(\rceil A)\ast P(B|\rceil A)$$
其中$\rceil A$表示$A$的互斥事件，那么在这个案例中A代表”教师“，那$\rceil A$就代表不是教师，显然也就是”模特“了。综上所述，公式（1）就可以写成下面公式的这种形式：
$$P(A|B)=\frac{500\ast P(A)\ast P(B|A)}{500\ast P(A)\ast P(B|A)+500\ast P(\rceil A)\ast P(B|\rceil A)}\text{\hspace{1em}(2)}$$
上面的公式分子分母都有500这个数，因此可以化简掉，得：
$$P(A|B)=\frac{P(A)\ast P(B|A)}{P(A)\ast P(B|A)+P(\rceil A)\ast P(B|\rceil A)}\text{\hspace{1em}(3)}$$
由于事件$A$代表事件“这位女生是教师”，事件$\rceil A$代表事件“这位女生是模特”，那么公式（2）中的分母表示什么意思呢？我们从公式可以分析得出其表示的含义是：教师中不戴眼镜的人数+模特中不戴眼镜的人数之和，其实就是总样本中不戴眼镜的人数，因此$P(A)\ast P(B|A)+P(\rceil A)\ast P(B|\rceil A)$等价于$P(B)$，因此公式（3）可以用下面公式替换：

$$P(A|B)=\frac{P(A)\ast P(B|A)}{P(B)}\text{\hspace{1em}(3)}$$，因此贝叶斯公式得以证明。