算法9：概率分析

雇用问题

• 目前公司的候选人的编号是1 到 n。创建虚拟应聘者，编号 0，他比其他应聘者都要差

HIRE-ASSISTANT（n）
1. best=0 
2. for i=1 to n
3.     interview candidate i
4.     if candidate i is better than candidate best
5.        best=i
6.        hire candidate i

• 面试费用=$c_i$; 雇佣费用=$c_h$, 雇佣人数=m，总人数=n
• 总费用=$O(c_in+c_hm)$

最坏情况分析

• $O(c_hm)$

概率分析

• 确定输入的分布
• 均匀分布：等可能
• 计算期望运行时间

---

指示器随机变量

• 给定样本空间：S 和一个事件 A，那么事件A 对应的指示器随机变量I{A}：

I(A)=1 ……… 如果A发生
I(A)=0 ……… 如果A不发生

指示器分析雇佣问题

• 计算雇佣一个新的办公助理的期望次数

• X是随机变量=我们雇佣一个新的办公助理的次数
  $E[X]=\sum_{x=1}^n xPr$ {X=x}…………….原始期望公式

• 定义：$X_i$ 对应于第 i个应聘者是否雇佣的指示器随机变量
  $X_i=I${应聘者i是否被雇佣}=1 ………….. i被雇佣
  $X_i=I${应聘者i是否被雇佣}=0 ………….. i未被雇佣
  $X=X_1+X_2+......+X_n$

• $E[X_i]=Pr${应聘者i被雇佣的概率}

结论

• 应聘者i 比从 1 到 i-1, 则i 更有资格的概率是 1/i. $E[X_i]=1/i$
• $E[X]=E[\sum_{i=1}^n X_i]=\sum_{i=1}^n E[X_i]=\sum_{i=1}^n 1/i=ln n+O(1)$

---

随机算法

//随机雇佣问题//随机的改变应聘者的顺序
RANDOMIZED-HIRE-ASSISTANT（n）
0. randomly permute the list of candidates
1. best=0 
2. for i=1 to n
3.     interview candidate i
4.     if candidate i is better than candidate best
5.        best=i
6.        hire candidate i

概率分析和随机算法

• 概率分析：输入做假设，例如服从均匀分布
• 随机算法：随机化输入

随机排列组合

---

概率分析 和 指示器随机变量的进一步使用

生日悖论

• 屋子内必须要最少多少人，才可以使其中两个人生日相同的概率达到50%
• 设：k=屋内人数, n=365， $b_i$是编号为 i的人的生日，设生日均匀的分布在365天内
  则 $Pr${$b_i=r$}=1/n; 两个人 i 和 j的生日同时都落在一天的概率
  Pr{$b_i=r 且 b_j =r$}=Pr{$b_i=r$}Pr{$b_j=r$}=1/$n^2$
• 则落在同一日的概率是：
  Pr{$b_i=b_j$}= $\sum_{r=1}^n$Pr{$b_i=r 且b_j=r$}= $\sum_{r=1}^n(1/n^2)=1/n$
• 选定两人，则两人在同一天生日的概率是1/n

k个人中至少两人的生日相同的概率

• 至少两个人生日相同的概率等于1 减去 所有人生日都不同的概率。k个人生日都互不相同的事件是：
  $B_k=\bigcap _{i=1}^k A_i$……… $A_i = 对所有的 j<i ， i 与 j 生日不同的事件$
  $B_k=A_k \bigcap B_{k-1}$
  Pr{$B_k$}=Pr{$B_{k-1}$ } Pr{$A_k | B_{k-1}$}

• Pr{$A_k | B_{k-1}$}=(n-k+1)/n ………. n天中有 n-(k-1)天没有用

• Pr{$B_k$}=Pr{$B_{k-1}$ } Pr{$A_k | B_{k-1}$}
  =Pr{$B_{k-2}$}Pr{$A_{k-1}|B_{k-2}$}Pr{$A_k|B_{k-1}$}
  ……
  =Pr{$B_1$}Pr{$A_2|B_1$}……Pr{$A_k|B_{k-1}$}
  = $1* \frac{(n-1)}{n}*\frac{n-2}{n} ...... \frac{n-k+1}{n}$
  =$1*(1- \frac{1}{n})*(1- \frac{2}{n}) ...... (1- \frac{k-1}{n})$
  又因为： $1+x <= e^x$
  可得：
  Pr{$B_k$}<=$e^{-\frac{1}{n}}$$e^{-\frac{2}{n}}$……$e^{-\frac{(k-1)}{n}}$
  =$e^{-\sum_{i=1}^k i/n}=e^{-k(k-1)/2n}$<=1/2

• n=365 ……. =>…….k>=23

指示器分析

• 每一对(i, j) 定义指示器变量

$X_{ij}$=$I${$i和j 生日相同$}=1 …….. 如果i和j相同
$X_{ij}$=$I${$i和j 生日相同$}=0 …….. 如果i和j不相同

• 两个人相同的概率是 1/n
• $E[X_ij]$=Pr{$i和j的生日相同$}=1/n

• 设：X表示计数生日相同的两人对数目的随机变量： X=$\sum_{i=1}^k \sum_{j=i+1}^k X_{ij}$

• $E[X]=E[\sum_{i=1}^k \sum_{j=i+1}^k X_{ij}]$=$\sum_{i=1}^k \sum_{j=i+1}^k E[X_{ij}]$= $(_2^k) \frac{1}{n}=\frac{k(k-1)}{2n}$

• 当且仅当 k(k-1)>=2n 时，期望至少为1 ……. k=28

复杂度

O（$\sqrt{n}$）

---

球与箱子

• 将相同的球投入到b个箱子，求落入任意一个箱子的概率是$1/b$

几何分布

• 一系列伯努利试验，成功的概率$p$, 失败的概率 $q=1-p$, 获取一次成功需要进行多少次试验
• 因为：k-1次是失败所以
  $Pr${$X=k$}=$q^{k-1} p$
  E[X]=1/P …… Var [X]=q/$p^2$

二项分布

• 一系列伯努利试验，成功的概率$p$, 失败的概率 $q=1-p$，则n次试验会有多少次成功？
• Pr{$X=k$}=$(_k^n)p^k q^{n-k}$
  E[x]=np …… Var[x]=npq

超几何分布

超几何分布:在含有M见次品的N件产品中取出n件,其中恰好有X见次品的概率
p（X=k）=$\frac{C(M,k)*C(N-M,n-k)}{C(N,n)}$

---

特征序列

• 抛硬币n次， 最长连续正面的序列的期望长度是：$O(lg n)$

• 设：事件$A_{ik}= 长度至少为 k的正面特征开始于第 i 次$，给定$A_{ik}$，所有$k$ 次都朝上的概率是
  Pr{$A_{ik}$}=1/$2^k$

• 对于 $k=2[lgn]$

• Pr{$A_{i,2[lgn]}$}=$\frac{1}{2^{2[lgn]}}<=1/2^{2lgn}$=$1/n^2$
  长度是2[lgn]， 起始于位置 i 的一个正面特征的概率。起始位置至多有$n-2[lgn]+1 个$
• 长度至少为 $2[lgn]$ 的正面序列开始于任意位置的概率

Pr{$\bigcup_{i=1}^{n-lgn+1} A_{i,2[lgn]}$}<=$\sum_{i=1}^{n-2[lgn]+1} 1/n^2 < \sum_{i=1}^n /n^2=1/n$

• E[L]=$\sum_{j=0}^n j Pr${$L_j$} < O(lgn)

---

在线雇佣

省略