随机事件与随机变量
古典模型
- 假设有k个不同颜色的球,每个球以同样的概率1/l落到l个格子(l>=k)中,且每个格子可以容纳任意多个球。
求事件:
A:指定的k个格子中各有一个球。
B:存在k个格子,其中各有一个球。
总的事件数是l^(k)
而A当中包含的事件数=k!
P(A)=k!/l^(k)
B当中包含的事件数=C kl *k!
P(B)=C kl *k!/l^(k) - 生日问题
求K个同班同学没有两人生日相同的概率。类似于上述投球问题当中的事件B。将K个同学看作是k个球,将一年365天看作是l个格子。
def factorial(n):
if n == 0:
return 1;
else:
return (n*factorial(n-1))
l_fac = factorial(365);
l_k_fac = factorial(365-40)
l_k_exp = 365**40
P_B = l_fac /(l_k_fac * l_k_exp)
print("事件B的概率为:",P_B)
print("40个同学中至少两个人同一天过生日的概率是:",1 - P_B)
全概率公式和贝叶斯公式
- 由条件概率公式得概率的乘法公式
P(AB)=P(B|A)*P(A)=P(A|B)*P(B) - 全概率公式
假设B1,B2,B3…是样本空间Ω的一个划分,则对任意P(A)>0,都有
P(A)=∑ ∞i=1P(Bi)P(A|Bi) - 贝叶斯公式(机器学习中朴素贝叶斯的核心)
P(Bi|A)=P(BiA)/P(A)=P(A|Bi)*P(Bi)/∑ ∞j=1P(Bj)P(A|Bj)
P(Bi)为先验概率,其中Bi视为导致A发生的原因,P(Bi)是原因发生的概率。
P(Bi|A)为后验概率,即结果A发生之后,我们再去解析导致其发生的原因的新认识。
随机变量
- 随机变量的分布函数
- 常见的离散型分布
- 伯努利试验:如果一个随机试验只有两种可能的结果A和 \hat{A};若该试验独立重复进行n次,称为n重伯努利试验。
- 二项分布B(n,k):一共抽了n次,k次抽中了A,n-k次抽中了非A。
- X的分布函数。
随机变量的数字特征
- 数学期望E(XY)=E(X)E(Y)
- 方差Var(X)=E{[X-E(X)]2}
Var(aX+b)=a2Var(X)
Var(X+Y)=Var(X)+Var(Y)
*协方差
E{[X-E(X)][Y-E(Y)]}=cov(X,Y)
cov(X,Y)=cov(Y,X)
cov(aX+b,cY+d)=ac * cov(X,Y)
cov(X1+X2,Y)=cov(X1,Y)+cov(X2,Y)
cov(X,Y)=E(X,Y)-E(X)E(Y)
|cov(X,Y)|=X标准差 * Y标准差
cov(X,X)=var(X)
ρ(X,Y)=cov(X,Y)/(X的标准差 * Y的标准差)
X,Y的相关系数(无单位)