最近在看信息论中的概念,对于联合熵的概念比较混乱,从而引发出对联合概率的思考,
当提到联合概率的时候大家都会看到这么一个图:
学习概率论是这样理解还可以,还能解释条件概率,总体挺好的;
但是总感觉有点啥问题,当AB完全独立是不是这个:
这样就会随之想到的是P(AB)=0,书上又说A,B在相互独立时,P(AB)=P(A)*P(B),是不是哪个地方有问题呢?
既然出现分歧,这就从概念出发吧。
对于P(A,B)指的是在(A,B)形成的空间中的概率,Sa和Sb分别是A和B的空间,则形成总空间为Sa*Sb。
假设A和B分别是线性空间,那么(A,B)就是二维平面。
P(AB)也可以写成P(AiBj),或许这样就更好理解了。
举个例子,小明所穿的袜子,每星期内都随机穿,袜子有红黄绿蓝,星期几和穿袜子的颜色也是随机对应:
星期/颜色 |
红 |
黄 |
绿 |
蓝 |
1 |
- |
- |
- |
- |