Hoeffding不等式是关于一组随机变量均值的概率不等式。 如果X1,X2,⋯,Xn为一组独立同分布的参数为p的伯努利分布随机变量,n为随机变量的个数。定义这组随机变量的均值为:
对于任意δ>0, Hoeffding不等式可以表示为
上面的公式似乎写的不是很详细,所以我又从网上copy了一份其他的解释:
Hoeffding不等式:Hoeffding不等式好像有很多个形式,all of statistics里的感觉较难理解,这里写一种好理解的。令X1,…,Xn为独立同分布随机变量,满足ai≤Xi≤bi。则对于任意t>0有
P(X¯−E(X¯)≥t)≤e−2n2t2∑ni=(bi−ai)2P(|X¯−E(X¯)|≥t)≤2e−2n2t2∑ni=(bi−ai)2.</