动态规划：最优二分检索树

1. 二分检索树的性能

能成功检索的关键字是绿色的，即ai，不能成功被检索的关键字是红色的，即Ei，假设他们按从小到大排列。他们被检索的概率分别是P(i)和Q(i)。

设level(ai)为第i内个节点所在深度，level(Ei)为第i外个节点所在深度。

能使
$$\sum _{1\le i\le n}\mathrm{P}(\mathrm{i})\ast \mathrm{level}\left(a_i\right)+\sum _{0\le \mathrm{i}\le \mathrm{n}}\mathrm{Q}(\mathrm{i})\ast (\mathrm{level}(Ei)-1)$$

取值最小的二分检索树为最优二分检索树。

上图二分检索树的代价为P(2)*1 + P(1)*2 + P(4)*2 + P(3)*3 + P(5)*3 + Q(0)*2 + Q(1)*2 + Q(2)*3 + Q(3)*3 + Q(4)*3 + Q(5)*3。

2.多阶段决策

将最优二叉检索树的构造，看作一个多阶段决策过程。第i个阶段要决策怎样构造一个共有i个内节点的二叉检索树。即第一个阶段，找出所有只有1个内节点的检索树，第二个阶段，找出所有有2个节点的检索树，第三阶段，找出所有3个节点的检索树。注意，第i个阶段，依赖于第i-1个阶段，体现在当节点数增加1时，要怎样调整树根，才能保证是最优二叉检索树。也就是说，第i个阶段要遍历所有节点，其左子树和右子树的装配来自于第i-1个阶段已经决策好的最优检索树，找到总成本最小的一种情况。

记原始问题为$T_{0n}$，即要构造$E_0,a_1,E_1,...,a_n,E_n$共$2n+1$个节点的最优二分检索树。

设$C(i,j)$为$T_{ij}(E_i,a_i,E_{i+1},...,a_j,E_j)$的检索成本。则原问题$T_{0n}$的检索成本为$C(0,n)$。

那么第$n$阶段的决策过程，就是确定一个树根$A_K$，使 C ( 0 , n ) = m i n { A k } C(0, n)=min\{A_k\} C(0,n)=min{Ak​}，他表示以$A_k$为根，左右子树均来自于第$n-1$个阶段已经确定的最优二叉检索树的成本。

3.左右子树的成本

以$a_k$为根，其左右子树的成本分别为$C(0,k-1)$和$C(k,n)$。

$$\begin{array}{l}\mathrm{COST}(L)={\sum }_{1\le i<k}P(i{)}^{\ast }\mathrm{level}\left(a_i\right)+{\sum }_{0\le i<k}Q(i{)}^{\ast }\left(\mathrm{level}\left(E_i\right)-1\right)\\ \mathrm{COST}(R)={\sum }_{k<i\le n}P(i)\ast \mathrm{level}\left(a_i\right)+{\sum }_{k\le i\le n}Q(i{)}^{\ast }\left(\mathrm{level}\left(E_i\right)-1\right)\end{array}$$

4. 递推公式

以上只求出了左右子树的成本，其中的$level()$都是以子树为标准测定的，而要把子树装配到$a_k$上形成原始的二分检索树，需要再加上左右子树所有节点的概率和ak的概率P(k)，即所有节点的概率和，1。

所以此二叉搜索树的代价为：
$$\begin{gathered} COST(T)=COST(L)+COST(R)+\sum _{0\le i\le n}Q(i)+\sum _{1\le i\le n(i!=k)}P(i)+P(k) \\ =COST(L)+COST(R)+\sum _{0\le i\le n}Q(i)+\sum _{1\le i\le n}P(i) \\ =COST(L)+COST(R)+1 \end{gathered}$$

所以原问题转化为：

C ( 0 , n ) = m i n 1 ≤ k ≤ n { C ( 0 , k − 1 ) + C ( k , n ) + 1 } C(0, n)=min_{1\leq k \leq n}\{C(0, k-1)+C(k, n)+1\} C(0,n)=min1≤k≤n​{C(0,k−1)+C(k,n)+1}

类比原问题，那么任意$i$到$j$的节点，其最优二叉搜索树的成本为：

C ( i , j ) = m i n i < k ≤ j { C ( i , k − 1 ) + C ( k , j ) + Q ( i ) + ∑ i < r ≤ j [ P ( r ) + Q ( r ) ] } C(i, j)=min_{i< k \leq j}\{C(i, k-1)+C(k, j)+Q(i)+\sum_{i<r\leq j}{[P(r)+Q(r)]} \} C(i,j)=mini<k≤j​{C(i,k−1)+C(k,j)+Q(i)+i<r≤j∑​[P(r)+Q(r)]}

记$$W(i,j)=Q(i)+\sum _{i<r\le j}[P(r)+Q(r)]$$

则 C ( i , j ) = min ⁡ i < k ≤ j { C ( i , k − 1 ) + C ( k , j ) + W ( i , j ) } C(i, j)=\min_{i< k \leq j}\{C(i, k-1)+C(k, j)+W(i, j) \} C(i,j)=i<k≤jmin​{C(i,k−1)+C(k,j)+W(i,j)}

至此，递推公式求解完成。

5. 例题

初始状态：
$$W(i,i)=Q(i)表示初始化未成功检索节点E_i$$ $$C(0,0)=0表示无成本$$ $$R(0,0)=0表示空树$$

且$$\begin{gathered} W(i,j)=Q(i)+\sum _{i<r\le j}[P(r)+Q(r)] \\ =Q(i)+\sum _{i<r<j}[P(r)+Q(r)]+P(j)+Q(j) \\ =W(i,j-1)+P(j)+Q(j) \end{gathered}$$

先算$W$

第0阶段：

初始化所有未成功检索的节点：

$$W(0,0)=Q(0)=2$$$$W(1,1)=Q(1)=3$$$$W(2,2)=Q(2)=1$$$$W(3,3)=Q(3)=1$$$$W(4,4)=Q(4)=1$$

第1阶段：

$$W(0,1)=W(0,0)+P(1)+Q(1)=2+3+3=8$$

$$W(1,2)=W(1,1)+P(2)+Q(2)=3+3+1=7$$

$$W(2,3)=W(2,2)+P(3)+Q(3)=1+1+1=3$$

$$W(3,4)=W(3,3)+P(4)+Q(4)=1+1+1=3$$

第2阶段：

$$W(0,2)=W(0,1)+P(2)+Q(2)=8+3+1=12$$

$$W(1,3)=W(1,2)+P(3)+Q(3)=7+1+1=9$$

$$W(2,4)=W(2,3)+P(4)+Q(4)=3+1+1=5$$

第3阶段：

$$W(0,3)=W(0,2)+P(3)+Q(3)=12+1+1=14$$

$$W(1,4)=W(1,3)+P(4)+Q(4)=9+1+1=11$$

第4阶段：

$$W(0,4)=W(0,3)+P(4)+Q(4)=14+1+1=16$$

再算$C$和$R$

第0阶段(空树)：

$$C(0,0)=R(0,0)=0$$

$$C(1,1)=R(1,1)=0$$

$$C(2,2)=R(2,2)=0$$

$$C(3,3)=R(3,3)=0$$

$$C(4,4)=R(4,4)=0$$

第1阶段(只有1个节点)：

$$C(0,1)=W(0,1)=8,R(0,1)=1$$

$$C(1,2)=W(1,2)=7,R(1,2)=2$$

$$C(2,3)=W(2,3)=3,R(2,3)=3$$

$$C(3,4)=W(3,4)=3,R(3,4)=4$$

第2阶段(2个节点)：

C ( 0 , 2 ) = W ( 0 , 2 ) + min ⁡ 0 < k ≤ 2 { C ( 0 , 0 ) + C ( 1 , 2 ) , C ( 0 , 1 ) + C ( 2 , 2 ) } = 12 + min ⁡ { 7 , 8 } = 19 , R ( 0 , 2 ) = 1 C(0,2)=W(0,2)+\min_{0<k\leq{2}}{\{C(0,0)+C(1,2), C(0,1)+C(2,2)\}}=12+\min{\{7,8\}}=19, R(0,2)=1 C(0,2)=W(0,2)+0<k≤2min​{C(0,0)+C(1,2),C(0,1)+C(2,2)}=12+min{7,8}=19,R(0,2)=1

C ( 1 , 3 ) = W ( 1 , 3 ) + min ⁡ 1 < k ≤ 3 { C ( 1 , 1 ) + C ( 2 , 3 ) , C ( 1 , 2 ) + C ( 3 , 3 ) } = 9 + min ⁡ { 3 , 7 } = 12 , R ( 1 , 3 ) = 2 C(1,3)=W(1,3)+\min_{1<k\leq{3}}{\{C(1,1)+C(2,3), C(1,2)+C(3,3)\}}=9+\min{\{3,7\}}=12, R(1, 3)=2 C(1,3)=W(1,3)+1<k≤3min​{C(1,1)+C(2,3),C(1,2)+C(3,3)}=9+min{3,7}=12,R(1,3)=2

C ( 2 , 4 ) = W ( 2 , 4 ) + min ⁡ 2 < k ≤ 4 { C ( 2 , 2 ) + C ( 3 , 4 ) , C ( 2 , 3 ) + C ( 4 , 4 ) } = 5 + min ⁡ { 3 , 4 } = 8 , R ( 2 , 4 ) = 3 C(2,4)=W(2,4)+\min_{2<k\leq{4}}{\{C(2,2)+C(3,4), C(2,3)+C(4,4)\}}=5+\min{\{3,4\}}=8, R(2,4)=3 C(2,4)=W(2,4)+2<k≤4min​{C(2,2)+C(3,4),C(2,3)+C(4,4)}=5+min{3,4}=8,R(2,4)=3

第3阶段(3个节点)：

C ( 0 , 3 ) = W ( 0 , 3 ) + min ⁡ 0 < k ≤ 3 { C ( 0 , 0 ) + C ( 1 , 3 ) , C ( 0 , 1 ) + C ( 2 , 3 ) ， C ( 0 , 2 ) + C ( 3 , 3 ) } = 14 + min ⁡ { 12 , 11 , 19 } = 25 , R ( 0 , 3 ) = 2 C(0,3)=W(0,3)+\min_{0<k\leq{3}}{\{C(0,0)+C(1,3), C(0,1)+C(2,3)，C(0,2)+C(3,3)\}}=14+\min{\{12,11, 19\}}=25, R(0,3)=2 C(0,3)=W(0,3)+0<k≤3min​{C(0,0)+C(1,3),C(0,1)+C(2,3)，C(0,2)+C(3,3)}=14+min{12,11,19}=25,R(0,3)=2

C ( 1 , 4 ) = W ( 1 , 4 ) + min ⁡ 1 < k ≤ 4 { C ( 1 , 1 ) + C ( 2 , 4 ) , C ( 1 , 2 ) + C ( 3 , 4 ) , C ( 1 , 3 ) + C ( 4 , 4 ) } = 11 + min ⁡ { 8 , 10 , 12 } = 19 , R ( 1 , 4 ) = 2 C(1,4)=W(1,4)+\min_{1<k\leq{4}}{\{C(1,1)+C(2,4),C(1,2)+C(3,4), C(1,3)+C(4,4)\}}=11+\min{\{8,10,12\}}=19, R(1, 4)=2 C(1,4)=W(1,4)+1<k≤4min​{C(1,1)+C(2,4),C(1,2)+C(3,4),C(1,3)+C(4,4)}=11+min{8,10,12}=19,R(1,4)=2

第4阶段(4个节点)：

C ( 0 , 4 ) = W ( 0 , 4 ) + min ⁡ 0 < k ≤ 4 { C ( 0 , 0 ) + C ( 1 , 4 ) , C ( 0 , 1 ) + C ( 2 , 4 ) ， C ( 0 , 2 ) + C ( 3 , 4 ) , C ( 0 , 3 ) + C ( 4 , 4 ) } = 16 + min ⁡ { 19 , 16 , 22 , 25 } = 32 , R ( 0 , 4 ) = 2 C(0,4)=W(0,4)+\min_{0<k\leq{4}}{\{C(0,0)+C(1,4), C(0,1)+C(2,4)，C(0,2)+C(3,4), C(0,3)+C(4,4)\}}=16+\min{\{19,16,22,25\}}=32, R(0,4)=2 C(0,4)=W(0,4)+0<k≤4min​{C(0,0)+C(1,4),C(0,1)+C(2,4)，C(0,2)+C(3,4),C(0,3)+C(4,4)}=16+min{19,16,22,25}=32,R(0,4)=2

树的形态
最终决策为R(0,4)=2，表示最优二叉检索树以a2为根节点，其左子树为T01，右子树为T24。查看C(0,1)对应的决策，发现R(0,1)=1，说明该节点为a1，查看C(2,4)对应的决策，发现R(2,4)=3，说明其右子树以a3为根节点。a3的左子树为T22，右子树为T34，说明a3左子树为未成功检索，右子树为a4。

其最终形态：