一、动态规划的基本思想
动态规划算法通常用于求解具有某种最优性质的问题。
在这类问题中,可能会有许多可行解。
每一个解都对应于一个值,我们希望找到具有最优值的解。
基本思想是将待求解问题分解成若干个子问题,先求解子问题,然后从这些子问题的解得到原问题的解。
适合于用动态规划求解的问题,经分解得到子问题往往不是互相独立的。若用分治法来解这类问题,则分解得到的子问题数目太多,有些子问题被重复计算了很多次。
二、设计动态规划法的步骤
①找出最优解的性质,并刻画其结构特征;
②递归地定义最优值(写出动态规划方程);
③以自底向上的方式计算出最优值;
④根据计算最优值时得到的信息,构造一个最优解。
步骤1~3是动态规划算法的基本步骤。
在只需要求出最优值的情形,步骤4可以省略;
若需要求出问题的一个最优解,则必须执行步骤4。
三、动态规划问题的特征
动态规划算法的有效性依赖于问题本身所具有的两个重要性质:
1.最优子结构:
当问题的最优解包含了其子问题的最优解时,称该问题具有最优子结构性质。
2.重叠子问题:
在用递归算法自顶向下解问题时,每次产生的子问题并不总是新问题,有些子问题被反复计算多次。动态规划算法正是利用了这种子问题的重叠性质,对每一个子问题只解一次,而后将其解保存在一个表格中,在以后尽可能多地利用这些子问题的解。
矩阵连乘积问题
给定n个矩阵{A1,A2,…,An},其中Ai与Ai+1是可乘的,i=1,2…,n-1。如何确定计算矩阵连乘积的计算次序,使得依此次序计算矩阵连乘积需要的数乘次数最少?
算法复杂度分析:
对于n个矩阵的连乘积,设其不同的计算次序为P(n)。
由于每种加括号方式都可以分解为两个子矩阵的加括号问题:(A1…Ak)(Ak+1…An)可以得到关于P(n)的递推式如下:
1、分析最优解的结构
①将矩阵连乘积AiAi+1…Aj 简记为A[i:j], 这里i≤j;
②考察计算A[1:n]的最优计算次序。
i、设这个计算次序在矩阵Ak和Ak+1之间将矩阵链断开,1≤k<n,则其相应完全加括号方式为(A1A2…Ak)(Ak+1Ak+2…An)
ii、计算量:A[1:k]的计算量加上A[k+1:n]的计算量,再加上A[1:k]和A[k+1:n]相乘的计算量
③特征:计算A[1:n]的最优次序所包含的计算矩阵子链 A[1:k]和A[k+1:n]的次序也是最优的。
④矩阵连乘计算次序问题的最优解包含着其子问题的最优解。
i、这种性质称为最优子结构性质。
ii、问题的最优子结构性质是该问题可用动态规划算法求解的显著特征。
2、建立递归关系
①设计算A[i: j],1≤i≤j≤n,所需要的最少数乘次数m[i, j],则原问题的最优值为m[1,n]
②当i=j时,A[i: j]=Ai,因此,m[i, i]=0,i=1,2,…,n
③当i<j 时
这里Ai的维数是Pi-1×Pi
④m[i][j]给出了最优值,最优断开位置为k:
⑤若将对应于m[i, j]的断开位置k记为s[i, j],在计算出最优值m[i, j]后,可递归的由s[i, j]构造出相应的最优解。
3、计算最优值
①对于1≤i≤j≤n不同的有序对(i, j)对应于不同的子问题。因此,不同子问题的个数最多只有
②在递归计算时,许多子问题被重复计算多次。
i.这也是该问题可用动态规划算法求解的又一显著特征。
③用动态规划算法解此问题,可依据其递归式以自底向上的方式进行计算。
i.在计算过程中,保存已解决的子问题答案。
ii.每个子问题只计算一次,在后面需要时只要简单查一下,从而避免大量的重复计算,最终得到多项式时间的算法。
#define NUM 51
int p[NUM];
int m[NUM][NUM];
int s[NUM][NUM];
void MatrixChain (int n)
{
for (int i=1; i<=n; i++) m[i][i] = 0;
for (int r=2; r<=n; r++)
for (int i=1; i<=n-r+1; i++)
{
int j=i+r-1;
//计算初值,从i处断开
m[i][j] = m[i+1][j]+p[i-1]*p[i]*p[j];
s[i][j] = i;
for (int k=i+1; k<j; k++)
{
int t = m[i][k]+m[k+1][j]+p[i-1]*p[k]*p[j];
if (t < m[i][j]) {m[i][j] = t; s[i][j] = k;}
}
}
}
4、构造最优解
①、s[i][j]已经存储了构造最优解所需要的足够的信息。
i.每个部分的最优加括号方式可以根据数组s的相应元素得出。
ii.照此递推下去,最终可以确定A[1:n]的最优完全加括号方式,即构造出问题的一个最优解。
计算矩阵连乘积最优解的递归算法
void TraceBack(int i, int j)
{
if(i==j) printf("A%d", i);
else
{
printf("(");
TraceBack(i,s[i][j]);
TraceBack(s[i][j]+1,j);
printf(")");
}
}
最长公共子序列
1、最长公共子序列的结构
①若给定序列X={x1,x2,…,xm},则另一序列Z={z1,z2,…,zk},是X的子序列是指存在一个严格递增下标序列{i1,i2,…,ik}使得对于所有j=1,2,…,k有:zj=xij。
i.例如,序列Z={B,C,D,B}是序列X={A,B,C,B,D,A,B}的子序列,相应的递增下标序列为{2,3,5,7}。
②给定2个序列X和Y,当另一序列Z既是X的子序列又是Y的子序列时,称Z是序列X和Y的公共子序列。
③给定2个序列X={x1,x2,…,xm}和Y={y1,y2,…,yn},找出X和Y的最长公共子序列。
2、子问题的递归结构
①由最长公共子序列问题的最优子结构性质可知,要找出X和Y的最长公共子序列,可按以下方式递归地进行:
i.当xm=yn时,找出Xm-1和Yn-1的最长公共子序列,然后在其尾部加上xm(=yn)即可得X和Y的一个最长公共子序列。
ii.当xm≠yn时,必须解两个子问题,即找出Xm-1和Y的一个最长公共子序列及X和Yn-1的一个最长公共子序列。这两个公共子序列中较长者为X和Y的一个最长公共子序列。
②用c[i][j]记录序列和的最长公共子序列的长度。
i.Xi={x1,x2,…,xi};Yj={y1,y2,…,yj}。
ii.当i=0或j=0时,空序列是Xi和Yj的最长公共子序列。故此时C[i][j]=0。
iii.其它情况下,由最优子结构性质可建立递归关系如下
3、计算最优值
计算最长公共子序列的动态规划算法
#define NUM 100
int c[NUM][NUM];
int b[NUM][NUM];
void LCSLength (int m, int n, const char x[],char y[])
{
int i,j;
//数组c的第0行、第0列置0
for (i = 1; i <= m; i++) c[i][0] = 0;
for (i = 1; i <= n; i++) c[0][i] = 0;
//根据递推公式构造数组c
for (i = 1; i <= m; i++)
for (j = 1; j <= n; j++)
{
if (x[i]==y[j])
{c[i][j]=c[i-1][j-1]+1; b[i][j]=1; } //↖
else if (c[i-1][j]>=c[i][j-1])
{c[i][j]=c[i-1][j]; b[i][j]=2; } //↑
else { c[i][j]=c[i][j-1]; b[i][j]=3; } //←
}
}
计算最长公共子序列的动态规划算法
……
void LCSLength (int m, int n, const char x[],char y[])
{
int i,j;
//数组c的第0行、第0列置0
……;
//根据递推公式构造数组c
for (i = 1; i <= m; i++)
for (j = 1; j <= n; j++)
{
if (x[i]==y[j])
{c[i][j]=c[i-1][j-1]+1; b[i][j]=1; } //↖
else if (c[i-1][j]>=c[i][j-1] )
{c[i][j]=c[i-1][j]; b[i][j]=2; } //↑
else { c[i][j]=c[i][j-1]; b[i][j]=3; } //←
}
}
计算最长公共子序列的动态规划算法
void LCS(int i,int j,char x[])
{
if (i ==0 || j==0) return;
if (b[i][j]== 1){ LCS(i-1,j-1,x); printf("%c",x[i]); }
else if (b[i][j]== 2) LCS(i-1,j,x);
else LCS(i,j-1,x);
}