【数学合集】

最新推荐文章于 2024-09-15 23:41:22 发布

都卜冰

最新推荐文章于 2024-09-15 23:41:22 发布

阅读量591

点赞数

分类专栏： CS基础知识汇总文章标签：概率论机器学习

本文链接：https://blog.csdn.net/weixin_45209148/article/details/119063999

版权

CS基础知识汇总专栏收录该内容

7 篇文章 0 订阅

订阅专栏

概率论

1 概率论

1.1 泊松分布

如果随机变量X 的分布律为：
在这里插入图片描述

则称X 服从参数为 $\lambda$ 的泊松分布，记为 $X \sim P (λ)$

泊松分布的参数λ是单位时间(或单位面积)内随机事件的平均发生次数。泊松分布适合于描述单位时间内随机事件发生的次数。

在实际事例中，当一个随机事件，例如某电话交换台收到的呼叫、来到某公共汽车站的乘客、某放射性物质发射出的粒子、显微镜下某区域中的白血球等等，以固定的平均瞬时速率 $λ$ （或称密度）随机且独立地出现时，那么这个事件在单位时间（面积或体积）内出现的次数或个数就近似地服从泊松分布 $P (λ)$ 。

1.2 数学期望

在概率论和统计学中，一个离散型随机变量的期望值（或数学期望，亦简称期望），是试验中每次可能的结果乘以其结果概率的总和。换句话说，期望值像是随机试验在同样的机会下重复多次，所有那些可能状态的平均结果，基本上等同“期望值”所期望的数。期望值可能与每一个结果都不相等。换句话说，期望值是该变量输出值的加权平均。期望值并不一定包含于其分布的值域，也并不一定等于值域平均值。

例如：掷一枚公平的六面骰子，其每次“点数”的期望值是3.5，计算如下：
在这里插入图片描述
不过如上所说明的，3.5虽然是“点数”的期望值，但却不属于可能结果中的任一个，没有可能掷出此点数。

1.3 方差

在这里插入图片描述
方差求法

在这里插入图片描述
做题时， $D(X)=E(X^2)-(EX)^2$
X,Y独立时, $D (X + Y) = D (X) + D (Y)$

标准差：
标准差(Standard Deviation)是离均差平方的算术平均数(即：方差)的算术平方根，用 [公式] 表示。标准差也被称为标准偏差

1.4协方差

协方差：
协方差(Covariance)在概率论和统计学中用于衡量两个变量的总体误差。而方差是协方差的一种特殊情况，即当两个变量是相同的情况。
在这里插入图片描述
协方差表示的是两个变量总体误差的期望。如果两个变量的变化趋势一致，也就是说如果其中一个大于自身的期望值，另外一个也大于自身的期望值，那么两个变量之间的协方差就是正值。如果两个变量的变化趋势相反，即其中一个大于自身的期望值，另外一个却小于自身的期望值，那么两个变量之间的协方差就是负值。
在这里插入图片描述
协方差为0的两个随机变量称为是不相关的。
Cov(X,Y)关系受数据单位影响，因此可标准化
相关系数：
r值的绝对值介于0～1之间。通常来说，r越接近1，表示x与y两个量之间的相关程度就越强，反之，r越接近于0，x与y两个量之间的相关程度就越弱。
|r|=1，线性相关

独立和不相关方差与相关系数
相关描述的是随机变量之间线性相关而方差或者说独立性描述的是值相关，所以随机变量之间独立则一定不相关但是不相关不一定独立。

1.5 大数定理

什么是大数定律（LAMDA）先通俗讲再举例
大数定律通俗一点来讲，就是样本数量很大的时候，样本均值和数学期望充分接近，也就是说当我们大量重复某一相同的实验的时候，其最后的实验结果可能会稳定在某一数值附近。就像抛硬币一样，当我们不断地抛，抛个上千次，甚至上万次，我们会发现，正面或者反面向上的次数都会接近一半，也就是这上万次的样本均值会越来越接近50%这个真实均值，随机事件的频率近似于它的概率。
在这里插入图片描述

1.5 中心极限定理

什么是中心极限定理参考知乎
中心极限定理是说当样本数量无穷大的时候，样本均值的分布呈现正态分布（边说边比划正态曲线）
大数定律和中心极限定理的区别：
前者更关注的是样本均值，后者关注的是样本均值的分布，比如说掷色子吧，假设一轮掷色子n次，重复了m轮，当n足够大，大数定律指出这n次的均值等于随机变量的数学期望，而中心极限定理指出这m轮的均值分布符合围绕数学期望的正态分布。

1.6 全概率公式和贝叶斯公式

全概率是用原因推结果，贝叶斯是用结果推原因。
++++++++++++++++++++++++++++++++++++++++
全概率公式：
P ( A ) = P ( B 1 ) P ( A ∣ B 1 ) + P ( B 2 ) P ( A ∣ B 2 ) + P ( B 3 ) P ( A ∣ B 3 ) + ⋯ P(A)=P(B1) P(A|B1)+P(B2)P(A|B2)+P(B3)P(A|B3)+⋯P(A)=P(B1)P(A∣B1)+P(B2)P(A∣B2)+P(B3)P(A∣B3)+⋯
把B i B_iB
i

看作是事件A AA发生的一种“可能途径”，P ( A ∣ B 1 ) P(A|B1)P(A∣B1)则是通过这种途径得到A AA的可能性，而途径的选择是随机的，因此可以把P ( A ) P(A)P(A)看作不同途径概率的和。
+++++++++++++++++++++++++++++++++++++++++
贝叶斯利用贝叶斯定理，我们可以通过条件概率P(Y|X)P(Y|X)计算出P(X|Y)P(X|Y)，从某种意义上说，就是“交换”条件

这里贝叶斯可以看作求某种途径占所有途径的比例。
+++++++++++++++++++++++++++++++++++++++++
贝叶斯用在机器学习中：
比如性别分类，在身高体重等因素已知的情况下判断男性或者女性，这里假设身高体重都是正态分布。

还比如用朴素贝叶斯进行垃圾邮件过滤：
这里有一个条件独立假设：
假设x , y x,yx,y条件独立于z zz,则p ( x , y ∣ z ) = p ( x ∣ z ) ∗ p ( y ∣ z ) p(x,y|z)=p(x|z)*p(y|z)p(x,y∣z)=p(x∣z)∗p(y∣z)。

1.7 切比雪夫不等式

link
切比雪夫不等式，描述了这样一个事实，事件大多会集中在平均值附近。
在这里插入图片描述
例题：
已知随机变量X的数学期望E(X)=100，方差D(X)=10，试估计X落在(80,120)内的概率

马尔可夫不等式：
在这里插入图片描述

1.8 链式法则

在这里插入图片描述
完整链接link

1.9正态分布

正态分布
正态分布又称高斯分布，它是连续型随机变量的分布，它主要由两个参数u 和σ ，也就是期望和方差，遵从正态分布的随机变量满足这样一个规律：取值离u越近的概率越大，同时σ描述了分布的胖瘦，它越大，曲线越矮胖，越小，曲线越高瘦。
t分布
t分布主要用于根据小样本来估计呈正态分布且方差未知的总体的均值。如果总体方差已知（例如在样本数量足够多时），则应该用正态分布来估计总体均值。