1.Balls & Bins

最新推荐文章于 2021-08-26 10:57:00 发布

执笔论英雄

最新推荐文章于 2021-08-26 10:57:00 发布

阅读量1.3k

点赞数

分类专栏：数学

本文链接：https://blog.csdn.net/qq_38662930/article/details/104776388

版权

数学专栏收录该内容

40 篇文章 1 订阅

订阅专栏

1.Balls & Bins

定义：将m个balls 装入n 个不同的bins
球条件独立：m个球之间相互独立进入n个bins 互不影响，第i个球进入第j个盒子的概率为 $p_{ij}=1/n;$
盒子条件不独立但同分布：用 $Z=\{Z_1,Z_2,\dots ,Z_n\}$ 表示每个盒子中装有的球数，当一个盒子装得多了，另外一个就少了，自然不独立的但同分布。

2.应用-生日迅论

在这里插入图片描述

将球盒模型应用到Birthday Paradox 这一问题上时，n个盒子代表N=365天，而班级的每个成员（m个球）对应的生日可以看作是球，由上图黄色标明，当成员大于盒子的根号N量级时，会以高概率出现双生缘
还有类似的应用：loading balancing 问题，球是多个任务，盒子是多个服务器，我们可以关注负载最大的服务器上的负载的量级

3几个重要结论

当 $\sqrt{n}$ ,所有球分得很开，多数盒子为空
当 $m>\theta (\sqrt{n})$ ,以高概率出现2个球在一个盒子中，即生日悖论
形式化表示为：
$m\sim \theta (\sqrt{n}),\exists\quad Z_i\ge2 \\ \exists Y=\max_{1\leq i \leq n}Z_i,Y\ge2且Pr{(Y\ge 2)\ge1-\epsilon}$
当m=n时，关注球数最多的盒子（负载最大的服务器上的负载数量）中球数以高概率服从ln n的数量级，形式化为：
$m=n,\\ 令Y=\max_{1\leq i \leq n}Z_i,\\ Y\sim\theta(\frac{\ln n}{\ln \ln n}) \quad \quad with\quad high \quad probability$
当 $m=n\ln n$ 可以说是满足大数定理，即每个盒子中的数量以高概率为 $m/n=\ln n$ ，
这点证明参考Coupon Collector’s Problem高级算法设计

证明当m=n时，关注球数最多的盒子（负载最大的服务器上的负载数量）中球数以高概率服从ln n的数量级，形式化为：

$m=n,\\ 令Y=\max_{1\leq i \leq n}Z_i,\\ Y\sim\theta(\frac{\ln n}{\ln \ln n}) \quad \quad with\quad high \quad probability$

即证 $\Pr(Y=c\frac{\ln n}{\ln \ln n})=1-O(1)$

不妨使 $c=\frac{1}{4}$

即证 $\Pr(\max Z_i\leq 4\frac{\ln n}{\ln \ln n})=1-O(1)\quad \quad \quad (1)$ 与 $\Pr(\max Z_i\geq \frac{1}{4}\frac{\ln n}{\ln \ln n})=1-O(1)\quad \quad \quad (2)$

3.1

证（1）等价于证( $令t=\frac{\ln n}{\ln \ln n}$ )
$1-\Pr(\max Z_i\leq 4t)=O(1)$
等价于证
$\Pr(\max Z_i>4t)=O(1)\quad \quad 那么需要求它的上界$
等价于证 $\Pr(\max Z_i>4t)=\Pr(Z_1>4t\bigcup Z_2>4t\bigcup \dots \bigcup Z_n>4t)\\ \leq\sum_{i=1}^n \Pr(Z_i>4t) \quad 不妨设第一个盒子球数最多\max Z_i=Z_1\\ \leq n \Pr(Z_1>4t) =O(1)$

3.1.1 先证 $Pr( Z_1>4t)=O(1)$ 即求其上界

物理意义为至少有 $4 t + 1$ 个球落入第一个盒子,设球的序号为： $(j_1,j_2,j_3\dots,j_{4t+1})\in m=n$
$\Pr( Z_1>4t)=\bigcup_{j_1\dots j_{4t+1}\in n} \Pr(j_1,j_2...\dots j_{4t+1} \quad in \quad bin1)\\ \leq \sum_{j_1\dots j_{4t+1}\in n} \Pr(j_1,j_2...\dots j_{4t+1} \quad in \quad bin1)\\= C_{n}^{4t+1}(\frac{1}{n})^{4t+1}\\ \quad \quad 其它的n-4t-1 个球进入哪一个盒子并不关心$
利用公式 $(\frac{n}{m})^m\leq C_{n}^m=\frac{n(n-1)(n-2)\dots(n-m+1)}{m(m-1)(m-2)\dots(1)}\le(\frac{ne}{m})^m\quad (*)$

3.1.1有

$\Pr( Z_1>4t)= C_{n}^{4t+1}(\frac{1}{n})^{4t+1}\\ \leq(\frac{1}{n})^{4t+1} (\frac{ne}{4t+1})^{4t+1} \\ = (\frac{e}{4t+1})^{4t+1}\\ \approx \frac{1}{t}^{4t+1} 代入t=\frac{\ln n}{\ln \ln n} \\ =(\frac{\ln \ln n}{\\ln n})^{4t+1}\\ \approx( \frac{\sqrt{\ln n}}{\ln n })^{4t+1}=(\ln n)^{-2t}=e^{-2t\ln \ln n}\\= e^{-2\frac{\ln n}{\ln \ln n}\ln \ln n}=e^{-2\ln n}=\frac{1}{n^2}$
于是有

等价于证 $\Pr(\max Z_i>4t)\leq n \Pr(Z_1>4t) =n\frac{1}{n^2}=\frac{1}{n}=O(1)$
得证

3.2 证（2）

我们要换一种思路( $令t=\frac{\ln n}{\ln \ln n}$ )
$\Pr(\max Z_i\geq \frac{1}{4}\frac{\ln n}{\ln \ln n})=1-O(1)\quad \quad \quad (2)$

我们不写成如下的形式来证明，因为下式是在求上界，实际中我们应该求下界才是
$\Pr(\max Z_i>\frac{1}{4}t)=\Pr(Z_1>\frac{1}{4}t\bigcup Z_2>\frac{1}{4}t\bigcup \dots \bigcup Z_n>\frac{1}{4}t)\\ \leq\sum_{i=1}^n \Pr(Z_i>\frac{1}{4}t) \quad 不妨设第一个盒子球数最多\max Z_i=Z_1\\ \leq n \Pr(Z_1>\frac{1}{4}t)$

3.2.1 求 $\Pr(Z_1>\frac{1}{4}t)$ 的下界

$\Pr(Z_1>\frac{1}{4}t)= \sum_{k=\frac{1}{4}}^n \Pr(Z_1=k)\\ \ge \Pr(Z_1=\frac{1}{4}t+1)=C_{n}^{\frac{1}{4}t+1}(\frac{1}{n})^{\frac{1}{4}t+1}(1-\frac{1}{n})^{n-\frac{1}{4}t-1} \\利用(1-\frac{1}{n})^{n}\sim e^{-1}和公式*\\ \geq C_{n}^{\frac{1}{4}t+1}(\frac{1}{n})^{\frac{1}{4}t+1}e^{-1}\\ \geq(\frac{n}{\frac{1}{4}t+1})^{\frac{1}{4}t+1}(\frac{1}{n})^{\frac{1}{4}t+1}e^{-1}\\ =(\frac{1}{\frac{1}{4}t+1})^{\frac{1}{4}t+1}e^{-1}\\ \geq(\frac{4\ln \ln n}{\ln n+4\ln \ln n})^{\frac{1}{4}t+1}e^{-1} \quad 当n>e^2 时，有4\ln \ln n>2\\ \geq(\frac{2}{\ln n+4\ln \ln n})^{\frac{1}{4}t+1}e^{-1}\quad 再利用4\ln \ln n>2\\ \geq(\frac{1}{\ln n})^{\frac{1}{4}t+1}e^{-1}=(\ln n)^{-\frac{1}{4}(\frac{\ln n}{\ln \ln n})-1}e^{-1}\\ =e^{(-\frac{1}{4}(\frac{\ln n}{\ln \ln n})-1)\ln \ln n}e^{-1}\\ =e^{(-\frac{1}{4}(\ln n)-\ln ln n)}e^{-1}\\ ={n^{-\frac{1}{4}} \frac{1}{\ln n}}e^{-1}={{\frac{1}{n^\frac{1}{4}}} \frac{1}{\ln n}}e^{-1} \quad 有n^{\frac{1}{4} }\ll n^{\frac{1}{3} }\\ \geq{\frac{1}{n^\frac{1}{3}}}$

3.2.2 求 $\Pr(Y\geq \frac{1}{4}t)$ 的下界

即证 $\Pr(\max Z_i\geq \frac{1}{4}\frac{\ln n}{\ln \ln n})=1-O(1)\quad \quad \quad (2)$
定义变量 $\{X_1,X_2,\dots, X_n\}$
$X_i=\left\{ \begin{aligned} 1 & & \ if \quad Z_i>\frac {1}{4}t\\ 0 & & \ others\\ \end{aligned} \right.$

$令p_i=\Pr(X_i=1)=\Pr( Z_i>\frac {1}{4}t) \quad \\ E(X_i)=p_i\\ Var(X_i)=p_i(1-p_i)\leq1/4\\ X=X_1+X_2+\dots +X_n \\E(X)=E(X_1+X_2+\dots +X_n)=nE(X_i)=n\Pr( Z_i>\frac {1}{4}t)\ge n^{\frac{2}{3}}\\ Var(X)=Var(X_1+X_2+\dots +X_n)\leq nVar(X_i)=\frac {1}{4}n)$
证方差时用到的公式是 $V a r (X + Y) = V a r (X) + V a r (Y) + 2 C o v (X, Y)$ 当 $X, Y$ 负相关时, $Var(X+Y)\leq Var(X)+Var(Y)$ ,上面 $X_i$ 间满足负相关，当Z_i 大时，其它盒子装的球就会少。

证下式 $\Pr(\max Z_i>\frac{1}{4}t)=\Pr(Z_1>\frac{1}{4}t\bigcup Z_2>\frac{1}{4}t\bigcup \dots \bigcup Z_n>\frac{1}{4}t)\\ =\Pr(X_1=1\bigcup X_2=1\bigcup \dots \bigcup X_n=1)\\ =1-\Pr(X_1=0\bigcap X_2=0\bigcap \dots \bigcap X_n=0)\\ =1-\Pr(\sum_{i=1}^nX_i) =1-\Pr(X=0)=1-O(1)$
等价于证 $\Pr(X=0)=O(1),即证其上界为小O（1）$
$X=X_1+X_2+\dots +X_n$
$\Pr(X=0)=\Pr(X-E(X)=-E(X))\\ \leq \Pr(|X-E(X)|=|E(X)|)\quad 利用切比雪夫不等式\\ \leq \frac{Var(X)}{E^2(X)} \quad \quad \quad (3)$ 在这里插入图片描述
因此有
$\Pr(X=0) \leq \frac{Var(X)}{E^2(X)} =\frac{n/4}{n^{\frac{4}{3}}}=\frac{1}{4} \frac{1}{n^{\frac{1}{3}}}\sim O(1)$
得证

执笔论英雄

关注

0
点赞
踩
3

收藏

觉得还不错? 一键收藏
0
评论
1.Balls & Bins

1.Balls & Bins定义：将m个balls 装入n 个不同的bins球条件独立：m个球之间相互独立进入n个bins 互不影响，第i个球进入第j个盒子的概率为pij=1/n;p_{ij}=1/n;pij=1/n;盒子条件不独立但同分布：用Z={Z1,Z2,…,Zn}Z=\{Z_1,Z_2,\dots ,Z_n\}Z={Z1,Z2,…,Zn}表示每个盒子中装有的球数，...
复制链接

扫一扫