恒等式与不等式
二项式展开定理
基本等价等式
基本不等式
对正实数 a , b ,有
多元基本不等式
对正实数 a , 有
伯努利不等式
任意整数 和任意实数
, 有:
其他
(1) 当 , 满足不等式
(2) 对于任意x , 满足
(3) 当 , 满足
概率公式
条件概率
在事件B发生的前提条件下事件A发生的概率:
P ( A / B ) = P ( A B ) / P ( B )
贝叶斯公式
全概率公式
全概率公式和贝叶斯公式的结合
独立事件
独立性是概率论和数理统计中很重要的概念,很多情况需要满足独立性才适用,一般根据实践来确定事件之间是否相互独立。
P ( A B ) = P ( A ) P ( B ) 则称AB事件相互独立,即A和B两个事件的发生互不影响。
定理1:若P(A) > 0 ,且 P(B|A) = P(B) 等价于 AB相互独立
定理2:若AB相互独立,则其对立事件也相互独立,可以很自然的推广到n个事件的情况
概率基础公式
加法:P ( A + B ) = P ( A ) + P ( B ) − P ( A B ) P ( A + B ) ≤ P ( A ) + P ( B )
减法:P ( A − B ) = P ( A ) − P ( A B )
乘法:P ( A B ) = P ( A ) P ( B / A ) = P ( B ) P ( A / B )
切比雪夫不等式
, 满足k>0,u为期望,∂为标准差
绝大多数数据都应该在均值附近
设是具有相同期望μ和方差σ^2的成对独立随机变量。则对于每个δ > 0,有
“生日”问题
数学上有一个问题,叫做"生日问题"(birthday problem):一个班级需要有多少人,才能保证每个同学的生日都不一样?
答案很出人意料。若至少两个同学生日相同的概率不超过5%,那么这个班只能有7个人。事实上,一个23人的班级有50%的概率,至少两个同学生日相同;50人班级有97%的概率,70人的班级则是99.9%的概率。
这意味着,如果哈希值的取值空间是365,只要计算23个哈希值,就有50%的可能产生碰撞。也就是说,哈希碰撞的可能性,远比想象的高。实际上,有一个近似的公式
上面公式可以算出,50% 的哈希碰撞概率所需要的计算次数,其中 N 表示哈希的取值空间。生日问题的 N 就是365,算出来是 23.9。这个公式告诉我们,哈希碰撞所需耗费的计算次数,跟取值空间的平方根是一个数量级。
哈希碰撞公式
至少两个人生日相同的概率,可以先算出所有人生日互不相同的概率,再用 1 减去这个概率。我们把这个问题设想成,每个人排队依次进入一个房间。第一个进入房间的人,与房间里已有的人(0人),生日都相同的概率是365/365;第二个进入房间的人,生日独一无二的概率是364/365;第三个人是363/365,以此类推。因此,所有人的生日都不相同的概率为下面的公式
上面公式的 n 表示进入房间的人数。进入房间的人越多,生日互不相同的概率就越小。可推导成下面的形式:
那么,至少有两个人生日相同的概率,就是 1 减去上面的公式
上面的公式,可以进一步推导成一般性的、便于计算的形式。根据泰勒公式,指数函数 ex 可以用多项式展开。如果 x 是一个极小的值,公式近似等于下面的形式
现在把生日问题的1/365代入得
因此,生日问题的概率公式可变为:
假设 d 为取值空间(生日问题里是 365),就得到了一般化公式。
上面就是哈希碰撞概率的公式。