随机事件与随机变量

随机事件与随机变量

古典模型

• 假设有k个不同颜色的球，每个球以同样的概率1/l落到l个格子（l>=k）中，且每个格子可以容纳任意多个球。
  求事件：
  A：指定的k个格子中各有一个球。
  B：存在k个格子，其中各有一个球。
  总的事件数是l^(k)
  而A当中包含的事件数=k!
  P(A)=k!/l^(k)
  B当中包含的事件数=C ^k_l *k!
  P(B)=C ^k_l *k!/l^(k)
• 生日问题
  求K个同班同学没有两人生日相同的概率。类似于上述投球问题当中的事件B。将K个同学看作是k个球，将一年365天看作是l个格子。

#用函数的递归方法来计算阶乘
def factorial(n):
    if n == 0:
        return 1;
    else:
        return (n*factorial(n-1)) 
    
l_fac = factorial(365);          #l的阶乘
l_k_fac = factorial(365-40)      #l-k的阶乘
l_k_exp = 365**40                #l的k次方

P_B =  l_fac /(l_k_fac * l_k_exp)     #P(B）
print("事件B的概率为：",P_B)
print("40个同学中至少两个人同一天过生日的概率是：",1 - P_B)

全概率公式和贝叶斯公式

• 由条件概率公式得概率的乘法公式
  P(AB)=P(B|A)*P(A)=P(A|B)*P(B)
• 全概率公式
  假设B1，B2，B3…是样本空间Ω的一个划分，则对任意P(A)>0，都有
  P(A)=∑ ^∞_i=1P(Bi)P(A|Bi)
• 贝叶斯公式（机器学习中朴素贝叶斯的核心）
  P(Bi|A)=P(BiA)/P(A)=P(A|Bi)*P(Bi)/∑ ^∞_j=1P(Bj)P(A|Bj)
  P(Bi)为先验概率，其中Bi视为导致A发生的原因，P(Bi)是原因发生的概率。
  P(Bi|A)为后验概率，即结果A发生之后，我们再去解析导致其发生的原因的新认识。

随机变量

• 随机变量的分布函数
• 常见的离散型分布
  • 伯努利试验：如果一个随机试验只有两种可能的结果A和 \hat{A}；若该试验独立重复进行n次，称为n重伯努利试验。
  • 二项分布B(n,k)：一共抽了n次，k次抽中了A，n-k次抽中了非A。
  • X的分布函数。

随机变量的数字特征

• 数学期望E(XY)=E(X)E(Y)
• 方差Var(X)=E{[X-E(X)]²}
  Var(aX+b)=a²Var(X)
  Var(X+Y)=Var(X)+Var(Y)
  *协方差
  E{[X-E(X)][Y-E(Y)]}=cov(X,Y)
  cov(X,Y)=cov(Y,X)
  cov(aX+b,cY+d)=ac * cov(X,Y)
  cov(X1+X2,Y)=cov(X1,Y)+cov(X2,Y)
  cov(X,Y)=E(X,Y)-E(X)E(Y)
  |cov(X,Y)|=X标准差 * Y标准差
  cov(X,X)=var（X）
  ρ(X,Y)=cov(X,Y)/(X的标准差 * Y的标准差）
  X,Y的相关系数（无单位）