动态规划加速原理(含代码）

动态规划加速原理

原题目

在一个铁路沿线顺序存放着$n$堆装满货物的集装箱。货物储运公司要将集装箱有次序地集中为一堆。规定每次只能选择相邻的2堆货物合并成新的一堆，所需要的运输费用和新的一堆中集装箱的数量成正比。

给定各堆的集装箱数量，试制定一个运输方案，使得总运输费用最少。

一、朴素动态规划解法

假设$n$堆货物依次编号为$1,2,...,n$，各堆货物的集装箱数分别为$a[1],a[2],...,a[n]$

1.最优子结构性质

对于$a[1:n]$的一个最优的合并方式，设在$a[k]$和$a[k+1]$之间断开，

那么显然最优的方式为：

先把$a[1:k]$合并为一堆，再把$a[k+1:n]$合并为一堆，然后再把这两堆货物合并为一堆。

必然先使得$a[1:k]$合并为最优，$a[k+1:n]$合并也最优

所以，该问题具有最优子结构性质。

2.状态转移方程

假设合并$a[i:j]，1\le i\le j\le n$所需要的最少费用为：$m(i,j)$

首先考虑边界情况，显然当$i=j$时无需合并，$m(i,j)=0$

对于$i<j$时，

假设我们在位置为$k$处分割，先把左右两边合并为一堆，

也即是先合并：$a[i:k-1]$，再合并：$a[k:j]$

由此定义必须有$k-1\ge i$，也即$i<j$

同理$k\le j$

遍历所有$k$的取值，最小值即为$m(i,j)$

于是：

m ( i , j ) = m i n i < k ≤ j { m ( i , k − 1 ) + m ( k , j ) + ∑ t = i j a [ t ] } , i < j m(i,j)=min_{i<k \leq j} \{ m(i,k-1)+m(k,j)+ \sum _{t=i} ^j a[t] \},i<j m(i,j)=mini<k≤j​{m(i,k−1)+m(k,j)+∑t=ij​a[t]},i<j

一般化，可令$w(i,j)={\sum }_{t=i}^{j}a[t]$

上式一般化为：

m ( i , j ) = m i n i < k ≤ j { m ( i , k − 1 ) + m ( k , j ) + w ( i , j ) } , i < j m(i,j)=min_{i<k \leq j} \{ m(i,k-1)+m(k,j)+ w(i,j)\},i<j m(i,j)=mini<k≤j​{m(i,k−1)+m(k,j)+w(i,j)},i<j

依照这个方程，时间复杂度为：$O(n^3)$

采用了$Acwing$上的石子合并这题进行测试，链接如下：

石子合并

实际上，石子合并和集装箱问题完全一样。

#include<bits/stdc++.h>
using namespace std;

const int N = 350;
int a[N], s[N], m[N][N];
int n;

int main()
{
    cin >> n;
    for(int i = 1; i <= n; i ++)
        cin >> a[i];
    
    //预处理前缀和
    for(int i = 1; i <= n; i ++)
        s[i] = s[i - 1] + a[i];
    
    //遍历长度
    for(int len = 2; len <= n; len ++)
    {
        //遍历起点
        for(int i = 1; i + len - 1 <= n; i ++)
        {
            //终点
            int j = i + len - 1;
            m[i][j] = 2e9;
            for(int k = i + 1; k <= j; k ++)
            {
                int sum = s[j] - s[i - 1];
                m[i][j] = min(m[i][j], m[i][k - 1] + m[k][j] + sum);
            }
        }
    }
    
    cout << m[1][n] << endl;
    return 0;
}

以上代码运行时间为：$103ms$

二、动态规划加速算法

证明过程略微枯燥，不感兴趣的读者可以直接跳到应用部分。
加速算法实现

1.四边形不等式

定义

设函数$w(i,j)$，如果当：$i\le i^{\prime }\le j\le j^{\prime }$时，有：

$w(i,j)+w(i^{\prime },j^{\prime })\le w(i,j^{\prime })+w(i^{\prime },j)$

称函数$w(i,j)$满足四边形不等式。

另外，当$i\le i^{\prime }\le j\le j^{\prime }$时，如果：

$w(i^{\prime },j)\le w(i,j^{\prime })$

称函数$w(i,j)$满足区间包含关系单调。

2.动态规划加速原理证明

首先证明一个引理：

对于满足四边形不等式的区间包含关系单调函数$w$，

可推得函数$m$也满足四边形不等式，也即是：

$m(i,j)+m(i^{\prime },j^{\prime })\le m(i,j^{\prime })+m(i^{\prime },j),i\le i^{\prime }\le j\le j^{\prime }$

证明如下：

设$l=j^{\prime }-i$，定义为区间长度。

采用数学归纳法，先证明当$l\le 1$时，结论成立

$l=1,$则：$j^{\prime }-i=1$

此时，必然有：

$i=i^{\prime }<j=j^{\prime }$或者$i<i^{\prime }=j=j^{\prime }$或者$i=i^{\prime }=j<j^{\prime }$

一般化，先证明一般情况：

$(a)$当$i=i^{\prime }$时，不等式化为：

$m(i,j)+m(i,j^{\prime })\le m(i,j^{\prime })+m(i,j),i=i^{\prime }\le j\le j^{\prime }$

显然，两侧相等，所以成立。

$(b)$当$j=j^{\prime }$时，不等式化为：

$m(i,j)+m(i^{\prime },j)\le m(i,j)+m(i^{\prime },j),i\le i^{\prime }\le j=j^{\prime }$

同样地，也是两侧相等，所以成立。

所以，$l=1$时，四边形不等式成立。

且无需考虑$i=i^{\prime }$或者$j=j^{\prime }$的情况。

以下只需考虑$i\ne i^{\prime },j\ne j^{\prime },l>1$的情况

分两种情形证明之，

（1）情形1：$i<i^{\prime }=j<j^{\prime }$

此时不等式可以化为：

$m(i,j)+m(j,j^{\prime })\le m(i,j^{\prime })$ $(\ast )$

令 k = m a x ( { t ∣ m ( i , j ′ ) = m ( i , t − 1 ) + m ( t , j ′ ) + w ( i , j ′ ) } ) , t > i k=max(\{t|m(i,j') = m(i,t - 1)+m(t,j') + w(i,j') \}), t >i k=max({t∣m(i,j′)=m(i,t−1)+m(t,j′)+w(i,j′)}),t>i

那么，$m(i,j^{\prime })=m(i,k-1)+m(k,j^{\prime })+w(i,j^{\prime })$ $(\ast \ast )$

这种情形下，因为$k$和$j$的相对关系未知，有两种情况：$k>j,k\le j$

$(a)$当$k\le j$时：

由于$k$这个划分未必使得$m(i,j)$最小，所以：

$m(i,j)+m(i^{\prime },j^{\prime })\le m(i,k-1)+m(k,j)+w(i,j)+m(j,j^{\prime })$

由于$w$的单调性，$w(i,j)\le w(i,j^{\prime })$

所以，$(\ast \ast )\le m(i,k-1)+m(k,j)+m(j,j^{\prime })+w(i,j^{\prime })$

考虑到：$m(k,j)+m(j,j^{\prime })$

其中的$l^{\prime }=j^{\prime }-k<j^{\prime }-i=l$

数学归纳法已经假设$l^{\prime }<l$时结论成立，于是根据$(\ast )$式以及$l^{\prime }<l$，有：

$m(k,j)+m(j,j^{\prime })\le m(k,j^{\prime })$

所以，$(\ast \ast )\le m(i,k-1)+m(k,j^{\prime })+w(i,j^{\prime })=m(i,j^{\prime })$

$(b)$当$k>j$时：

同$(a)$，由于$k$这个位置划分未必使得$m(j,j^{\prime })$最小

所以，$m(j,j^{\prime })\le m(j,k-1)+m(k,j^{\prime })+w(j,j^{\prime })$

$m(i,j)+m(j,j^{\prime })$

$\le m(i,j)+m(j,k-1)+m(k,j^{\prime })+w(j,j^{\prime })$

$\le m(i,k-1)+m(k,j^{\prime })+w(i,j^{\prime })$

(数学归纳法假设以及$w$的单调性)

$=m(i,j^{\prime })$

到此，我们已经证明了$i<i^{\prime }=j<j^{\prime }$时，结论成立。

（2）情形2：$i<i^{\prime }<j<j^{\prime }$

令 y = m a x { t ∣ m ( i ′ , j ) = m ( i ’ , t − 1 ) + m ( t , j ) + w ( i ′ , j ) } , t > i y=max\{ t|m(i',j)=m(i’,t-1)+m(t,j)+w(i',j) \},t>i y=max{t∣m(i′,j)=m(i’,t−1)+m(t,j)+w(i′,j)},t>i

令 z = m a x ( { t ∣ m ( i , j ′ ) = m ( i , t − 1 ) + m ( t , j ′ ) + w ( i , j ′ ) } , t > i ′ z=max(\{t|m(i,j')=m(i,t-1)+m(t,j')+w(i,j') \},t>i' z=max({t∣m(i,j′)=m(i,t−1)+m(t,j′)+w(i,j′)},t>i′

由于$y,z$的大小关系未知，我们分$z\le y$和$z>y$分别证明

$(a)z\le y$

有：$i<z\le y<j,i^{\prime }<y\le j<j^{\prime }$

同样地，由于$z,y$这两个位置未必分别使得$m(i,j),m(i^{\prime },j^{\prime })$最小

所以：

$m(i,j)\le m(i,z-1)+m(z,j)+w(i,j)$

$m(i^{\prime },j^{\prime })\le m(i^{\prime },y-1)+m(y,j^{\prime })+w(i^{\prime },j^{\prime })$

且由于$w$满足：

$w(i,j)+w(i^{\prime },j^{\prime })\le w(i,j^{\prime })+w(i^{\prime },j)$

所以，

$m(i,j)+m(i^{\prime },j^{\prime })$

$\le w(i,j)+w(i^{\prime },j^{\prime })+m(i^{\prime },y-1)+m(y,j^{\prime })+m(i,z-1)+m(z,j)$

考虑$m(z,j)+m(y,j^{\prime })$

由于：$i<i^{\prime }<z\le y<j<j^{\prime }$

那么：$l^{\prime }=j^{\prime }-z<j^{\prime }-i=l$

数学归纳法假设可知：上式$\le m(z,j^{\prime })+m(y,j)$

代入$m(i,j)+m(i^{\prime },j^{\prime })$

$\le m(i^{\prime },y-1)+m(y,j)+w(i^{\prime },j)+m(i,z-1)+m(z,j^{\prime })+w(i,j^{\prime })$

$=m(i,j^{\prime })+m(i^{\prime },j)$

$(b)z>y$

类似地，有：$i<i^{\prime }<y<z<j^{\prime }$

且$y<j$，

也即：$i<y<j,i^{\prime }<z<j^{\prime }$

由于$y,z$这两个位置未必分别使得$m(i,j),m(i^{\prime },j^{\prime })$最小，

故：

$m(i,j)\le m(i,y-1)+m(y,j)+w(i,j)$

$m(i^{\prime },j^{\prime })\le m(i^{\prime },z-1)+m(z,j^{\prime })+w(i^{\prime },j^{\prime })$

同理由于$w$的性质：$w(i,j)+w(i^{\prime },j^{\prime })\le w(i,j^{\prime })+w(i^{\prime },j)$

于是：

$m(i,j)+m(i^{\prime },j^{\prime })$ $(\ast \ast \ast )$

$\le m(i,y-1)+m(y,j)+w(i,j)+m(i^{\prime },z-1)+m(z,j^{\prime })+w(i^{\prime },j^{\prime })$

$\le m(i,y-1)+m(y,j)+w(i^{\prime },j)+m(i^{\prime },z-1)+m(z,j^{\prime })+w(i,j^{\prime })$

考虑$m(i,y-1)+m(i^{\prime },z-1)$

由于$i<i^{\prime }<y-1<z-1,l^{\prime }=z-1-i<j^{\prime }-i=l$

所以$m(i,y-1)+m(i^{\prime },z-1)\le m(i,z-1)+m(i^{\prime },y-1)$

则$(\ast \ast \ast )$式

$\le m(i,z-1)+m(z,j^{\prime })+w(i,j)+m(i^{\prime },y-1)+m(y,j)+w(i^{\prime },j)$

$=m(i,j^{\prime })+m(i^{\prime },j)$

至此，我们已经根据$w$的性质证明了$m(i,j)$的四边形不等式性质。

构造 s ( i , j ) = m a x { k ∣ m ( i , j ) = m ( i , k − 1 ) + m ( k , j ) + w ( i , j ) } s(i,j)=max\{k|m(i,j)=m(i,k-1)+m(k,j)+w(i,j)\} s(i,j)=max{k∣m(i,j)=m(i,k−1)+m(k,j)+w(i,j)}

以下证明：$s(i,j)\le s(i,j+1)\le s(i+1,j+1),i\le j$

（1）$i=j$时，显然成立；

（2）$i<j$时，

记：$m_k(i,j)=m(i,k-1)+m(k,j)+w(i,j)$

首先证明$s(i,j)\le s(i,j+1)$

为了说明这一点，我们可以这样思考，

由于， m ( i , j ) = m i n i < k ≤ j { m ( i , k − 1 ) + m ( k , j ) + ∑ t = i j a [ t ] } , i < j m(i,j)=min_{i<k \leq j} \{ m(i,k-1)+m(k,j)+ \sum _{t=i} ^j a[t] \},i<j m(i,j)=mini<k≤j​{m(i,k−1)+m(k,j)+∑t=ij​a[t]},i<j

考虑$m_k(i,j)$，从$k=i+1$开始考虑，

只要存在$k^{\prime }\ge k$且$m_{k^{\prime }}(i,j)\le m(i,j)$

我们可以把$s(i,j)$更新为$k^{\prime }$

对于区间$[i,j+1]$也是同理的，

只要对所有$i<k\le k^{\prime }\le j$

假设：

$m_{k^{\prime }}(i,j)\le m_k(i,j)$能推导出$m_{k^{\prime }}(i,j+1)\le m_k(i,j+1)$

那么从$i+1$开始考虑，只要更新$s(i,j)$必然可以更新$s(i,j+1)$

就证明了$s(i,j)\le s(i,j+1)$

以下证明上述假设成立：

加强为：$m_k(i,j)-m_{k^{\prime }}(i,j)\le m_k(i,j+1)-m_{k^{\prime }}(i,j+1)$

也即：$m_k(i,j)+m_{k^{\prime }}(i,j+1)\le m_k(i,j+1)+m_{k^{\prime }}(i,j)$

将定义式代入，有：

$m(k,j)+m(k^{\prime },j+1)\le m(k,j+1)+m(k^{\prime },j)$

这是显然的，因为对于$k\le k^{\prime }\le j<j+1$

由四边形不等式可得上式。

同理可证明：$s(i,j+1)\le s(i+1,j+1),i\le j$

$m_k(i,j+1)-m_{k^{\prime }}(i,j+1)\le m_k(i+1,j+1)-m_{k^{\prime }}(i+1,j+1)$

也即是：

$m_k(i,j+1)+m_{k^{\prime }}(i+1,j+1)\le m_k(i+1,j+1)+m_{k^{\prime }}(i,j+1)$

将定义代入，有：

$m(i,k-1)+m(i+1,k^{\prime }-1)\le m(i+1,k-1)+m(i,k^{\prime }-1)$

这显然是成立的，因为对于：$i<i+1\le k-1\le k^{\prime }-1$

由四边形不等式可得上式。

3.加速算法证明

根据前面的讨论，

当$w$是满足四边形不等式的单调函数时，函数$s(i,j)$单调

显然，$w(i,j)={\sum }_{t=i}^{j}a[t]$是满足四边形不等式的单调函数

简单证明之：

$i\le i^{\prime }\le j\le j^{\prime }$时，

讨论：

$j=j^{\prime }$时，$w(i,j)=w(i,j^{\prime })$

$j<j^{\prime }$时，$w(i,j^{\prime })=w(i,j)+w(j+1,j^{\prime })\ge w(i,j)$

可得：$w(i,j^{\prime })\ge w(i,j)$

同理，$w(i,j)\ge w(i^{\prime },j)$

所以$w(i,j^{\prime })\ge w(i,j)\ge w(i^{\prime },j)$

故满足单调性。

而，
$w(i,j)+w(i^{\prime },j^{\prime })$
$=w(i,j)+w(j+1,j^{\prime })+w(i^{\prime },j)$
$=w(i,j^{\prime })+w(i^{\prime },j)$
所以满足四边形性质。

从而：

m i n i < k ≤ j { m ( i , k − 1 ) + m ( k , j ) } min_{i<k \leq j} \{m(i,k-1)+m(k,j)\} mini<k≤j​{m(i,k−1)+m(k,j)}

= m i n s ( i , j − 1 ) ≤ k ≤ s ( i + 1 , j ) { m ( i , k − 1 ) + m ( k , j ) } =min_{s(i,j-1)\leq k \leq s(i+1,j)} \{m(i,k-1)+m(k,j) \} =mins(i,j−1)≤k≤s(i+1,j)​{m(i,k−1)+m(k,j)}

考虑$s$数组的初始化：

特殊地，考虑$i=j$时，

$s(i,j)$应该是下一次更新$s(i,j+1)$所要使用的下标下界，

其下界至少从$i$开始取值，

因此可初始化为$s(i,i)=i$

4.加速算法实现

由上，我们得到了加速算法的核心部分：
定义s[i][j]表示$i$到$j$的最优断开点
且初始化为：s[i][i]=i
题目链接：石子合并
完整实现如下：

#include<bits/stdc++.h>
using namespace std;

const int N = 310;
int a[N], sum[N], n;
int m[N][N], s[N][N];

int main()
{
    cin >> n;
    for(int i = 1; i <= n; i ++)
        cin >> a[i];
        
    //预处理前缀和
    for(int i = 1; i <= n; i ++)
        sum[i] = sum[i - 1] + a[i];
        
    //初始化s[]
    for(int i = 1; i <= n; i ++)
    {
        s[i][i] = i;
    }
    
    //遍历长度
    for(int len = 2; len <= n; len ++)
    {
        //遍历起点
        for(int i = 1; i + len - 1 <= n; i ++)
        {
            int j = i + len - 1;//右端点
            //k的遍历区间为:[l ~ r]
            int l = s[i][j - 1], r = s[i + 1][j];
            
            m[i][j] = m[i][l - 1] + m[l][j];
            s[i][j] = l;
            
            for(int k = l + 1; k <= r; k ++)
            {
                int t = m[i][k - 1] + m[k][j];
                if(t <= m[i][j])
                {
                    m[i][j] = t;
                    s[i][j] = k;
                }
            }
            m[i][j] += sum[j] - sum[i - 1];
        }
    }
    
    cout << m[1][n] << endl;
    
    return 0;
}

运行时间显著优化到$26ms$

时间复杂度分析

计算时间为：
${\sum }_{len=2}^n{\sum }_{i=1}^{n-len+1}(1+s[i+1][i+len-1]-s[i][i+len-2])$

$={\sum }_{len=2}^n(n-len+s[n-len][n]-s[1][len-1])$

$\le {\sum }_{len=2}^n(n-len+n-0)$

$=O(n^2)$

所以我们把时间复杂度从$O(n^3)$优化到了$O(n^2)$