算法导论总结索引 | 第一部分第五章：概率分析和随机算法-CSDN博客

本文链接：https://blog.csdn.net/AsherGu/article/details/136120775

1、雇佣问题（80）

1、雇佣代理每天推荐一个应聘者，必须付给雇佣经理一小笔费用；然而要真的雇佣一个应聘者需要一大笔钱（包括辞退费和中介费）。只要该应聘者比当前的办公助理更合适，就会辞退旧的，然后聘用新的

HIRE-ASSISTANT(n)
best = 0; // 0号比所有应聘者都差
for i = 1 to n
	interview candidate i
	if candidate i is better than candidate best
		best = i
		hire candidate i

2、这个问题的花销模型（cost）与第二章的不同，关注的不是执行时间，而是面试和雇佣产生的费用

表面上分析这个算法的花销与分析归并的运行时间不同，然而在分析费用或运行时间时，所采用的分析技术时一样的：在任何情况下，都是计算特定基本操作的执行次数

设面试费用 ci，雇佣费用 ch，应聘候选人n个，雇佣了m个
不管雇佣了多少人，总会面试 n 个应聘者，于是面试产生的费用固定是 ci n。只关注 ck m，即总雇佣的费用，这个量在算法的每次执行中都不同

1.1 最坏情况分析

当应聘者质量按出现的次序严格递增时，就是最坏情况，此时雇佣了 n 次，总的费用是 O(ck n)

1.2 概率分析

在一种典型或平均的情形下，会有什么发生

1、概率分析可以分析一个算法的运行时间，或者其他量：过程 HIRE-ASSISTANT中的雇佣费用

2、为了进行概率分析，必须使用或假设关于输入的分布。然后分析该算法，计算出一个平均情形下的运行时间，其中对所有可能的输入分布取平均值，称其为平均情况运行时间

假设应聘者以随机顺序出现，使用从1到n的唯一号码对应聘者排列名次（用rank(i) 表示），较高名次对应一个更好的应聘者。有序序列<rank(1)，…，rank(n)>是序列<1，2，…，n>的一个排列。称应聘者以随机顺序出现，等价于称这个排名列表是数字1 到 n 的 n!种排列表种的任一个。也称这些排名构成一个均匀随机排列；也就是说，在 n! 种可能的排列中，每一种以等概率出现

1.3 随机算法

1、如果一个算法的行为不仅由输入决定，而且也由随机数生成器产生的数值决定，则称这个算法是随机的（同一个输入会有不同的输出）大多数编程环境会提供一个伪随机数生成器，它是个确定性算法，返回值在统计上看起来是随机的

2、分析随机算法的运行时间时，以运算时间的期望值衡量，其中输入值由随机数生成器产生。将一个随机算法的运行时间称为期望运行时间，以此来区分这类算法和那些输入是随机的算法（比如上文的HIRE-ASSISTANT函数的算法）

当概率分布是在算法的输入上（上文的HIRE-ASSISTANT函数的算法）时，我们讨论的是平均情况运行时间；当算法本身做出随机选择时，我们讨论的是期望运行时间（下文的RANDOMIZED-HIRE-ASSISTANT）

2、指示器随机变量

1、随机器随机变量为概率与期望之间的转换提供了一个便利的方法。指示器随机变量I{A}定义为
在这里插入图片描述
2、一个事件A对应的指示器随机变量的期望值等于事件A发生的概率
数学语言：给定一个样本空间S和S中的一个事件A，设，那么
指示器随机变量极大地简化了计算过程

3、用指示器随机变量分析雇佣问题：设X是一个随机变量，其值等于雇佣一个新的办公经理的次数
使用期望的定义：在这里插入图片描述

使用指示器随机变量来大大简化计算：不是通过定义与雇佣一个新办公助理所需次数对应的一个变量来计算 E[X]，而是定义n个变量，与每个应聘者是否被聘用对应。假设在这里插入图片描述对应于第 i 个应聘者被雇佣该事件的指示器随机变量

以及
根据本节的2，有：

当应聘者i 被雇佣时，正好应聘者i 比从1到i-1的每个应聘者优秀。前i个应聘者中的任意一个都等可能地是目前最有资格的，应聘者i 比应聘者1到i-1更有资格的概率是 1/i，根据本节的2，可得在这里插入图片描述，计算E[X]：
尽管我们面试了n个人，但平均起来，实际上大约只雇用他们之间的ln n个人

4、假设应聘者以随机次序出现，算法 HIRE-ASSISTANT 总的雇佣费用平均情形下为 O(ch lnn)

5、练习
1）在 HIRE-ASSISTANT 中，假设应聘者以随机顺序出现，正好雇佣一次的概率是多少？正好雇佣n次的概率是多少？
当面试的第一个应聘者是最好的应聘者时，你正好雇用一次。所以你正好雇用一次的概率是1/n
当应聘者恰好以由次到优的顺序出现时，你正好雇用n次。所以你正好雇用n次的概率是1/n!（独立相乘）

2）在HIRE-ASSISTANT中，假设应聘者以随机顺序出现，正好雇佣两次的概率？
假设第一个雇用的应聘者的排名是i，所有排名大于i的应聘者都在排名为n的应聘者后被面试。共有n-i个应聘者排名大于i，排名为n的应聘者在其中最先出现的概率为1/(n-i)，此时你正好雇用两次的概率是在这里插入图片描述
所以正好雇用两次的概率是：

3）利用指示器随机变量来计算掷n个骰子之和的期望值
假设Xi 对应于第i个骰子点数的指示器随机变量
在这里插入图片描述

4）
设X是一个随机变量，其值等于拿到自己帽子的顾客的数量
假设Xi 对应于第i个顾客拿到自己帽子该事件的指示器随机变量

5）
设X是一个随机变量，其值等于数列中逆序对的数目
假设Xij对应于(i,j)为A的一个逆序对该事件的指示器随机变量
在这里插入图片描述

3、随机算法（84）

1、进一步探索概率分析与随机算法的区别：如果应聘者以随机顺序出现，则聘用一个新办公助理的期望次数大约是 lnn。注意，这个算法是确定性的（即不是随机算法，是概率分析）；对于任何特定输入，雇佣一个新的办公助理的次数始终相同

考虑先对应聘者进行排列，然后确定最佳应聘者的随机算法：让随机发生在算法上（随机算法），而不是在输入分布上
每次运行这个算法时，执行依赖于随机选择，而且很可能和前一次算法的执行不同。对于该算法及许多其他的随机算法，没有特别的输入会引出它的最坏情况行为。只有在随机数生成器产生一个“不走运”的排列时，随机算法才会运行得很差

2、对于雇佣问题，变成随机算法（同样的输入，不同的结果）代码中唯一需要改变的是随机地变换应聘者序列

RANDOMIZED-HIRE-ASSISTANT(n)
随机地变换应聘者序列
best = 0; // 0号比所有应聘者都差
for i = 1 to n
	interview candidate i
	if candidate i is better than candidate best
		best = i
		hire candidate i

过程 RANDOMIZED-HIRE-ASSISTANT 的雇佣费用期望是 O(ch lnn)

3、对于概率分析 HIRE-ASSISTANT 函数，用平均情形下的雇佣费用来表达；对于随机算法 RANDOMIZED-HIRE-ASSISTANT 函数，用期望雇佣费用来表达

4、随机算法通过对给定的输入变换排列以使输入随机化（还有其他使用随机化的方法）

5、构造数组的一个随机序列：一个通常的方法是为数组的每个元素A[i] 赋一个随机的优先级 P[i]，然后依据优先级对数组A中的元素进行排序。如果初始数组A = <1, 2, 3, 4>，随机选择的优先级 P = <36, 3, 52, 19>，将产生一个数组 B = <2, 4, 1, 3>，因为第二个优先级最小，接下来是第四个，然后第一个，最后第三个。我们称这个过程为 PERMUTE-BY-SORTING

PERMUTE-BY-SORTING(A)
n = A.length
let P[1..n] be a new array
for i = 1 to n
	p[i] = RANDOM(1, n^3) // 使用范围1~n^3是为了让P中所有优先级尽可能唯一
sort A, using P as sort keys