分治法,动态规划法,贪心法,回溯法,分支限界法的区别和联系以及适用情况

————————————————
本文为CSDN博主「VM_Alike」
原文链接:https://blog.csdn.net/m0_37872090/article/details/80819788

一、算法思想

(一)分治法(divide and conquer method)

是将待求解的原问题划分成k个较小规模的子问题,对这k个子问题分别求解。如果子问题的规模仍然不够小,则再将每个子问题划分为k个规模更小的子问题,如此分解下去,直到问题规模足够小,很容易求出其解为止(子问题求解思路一致),再将子问题的解合并为一个更大规模的问题的解,自底向上逐步求出原问题的解。

(二)动态规划法(dynamic programing method)

是将待求解问题分解成若干个相互重叠的子问题,每个子问题对应决策过程的一个阶段,一般来说,子问题的重叠关系表现在对给定问题求解的递推关系(也就是动态规划函数)中,将子问题的解求解一次并填入表中,当需要再次求解此子问题时,可以通过查表获得该子问题的解而不用再次求解,从而避免了大量重复计算。

(三)贪心法(greedy method)

贪心法在解决问题的策略上目光短浅,只根据当前已有的信息就做出选择,而且一旦做出了选择,不管将来有什么结果,这个选择都不会改变。换言之,贪心法并不是从整体最优考虑,它所做出的选择只是在某种意义上的局部最优。这种局部最优选择并不总能获得整体最优解(Optimal Solution),但通常能获得近似最优解(Near-Optimal Solution)。

(四)回溯法(back track method)

回溯法就是一种有组织的系统化搜索技术,可以看作是蛮力法穷举搜索的改进。回溯法每次只构建可能解的一部分,然后评估这个部分解,如果这个部分有可能导致一个完全解,对其进一步搜索,否则,就不必继续构造这部分的解了,回溯法常常可以避免搜索所有可能的解,所以,它往往比满立法效率更高,适用于求解组合数组较大的问题。

(五)分支限界法(branch and bound method)

分支限界法按广度优先策略遍历问题的解空间,在遍历过程种,对已经处理的每一个结点根据限界函数估算目标函数的可能值,从中选取使目标函数取得极值(极大或极小)的结点优先进行广度优先搜索,从而不断调整搜索方向,尽快找到问题的解。因为界限函数常常是基于问题的目标函数而确定的,所以,分支限界法适用于求解最优化问题。

二、算法差异

(一)分治法和动态规划法的区别

共同点:二者都要求原问题具有最优子结构性质,都将原问题分成若干个子问题,然后将子问题的解合并,形成原问题的解。

不同点:动态规划法是将待求解问题分解成若干个相互重叠的子问题,而分治法是分解成若干个互不相交的子问题。利用分治法求解,这些子问题的重叠部分被重复计算多次。而动态规划法将每个子问题只求解一次并讲其保存在一个表格中,当需要再次求解此子问题时,只是简单地通过查表获得该子问题的解,从而避免了大量的重复计算。

(二)动态规划法和贪心法的区别

共同点:贪心算法和动态规划算法都要求问题具有最优子结构性质。

不同点:动态规划法用到之前的最优解,贪心则不是,贪心无法解决动态规划的问题,但是动态规划能解决贪心的问题。虽然能够应用贪心算法一定能够应用动态规划法,但是一般来说,贪心算法的效率高于动态规划法,因而还是应用贪心算法。动态规划算法通常以自底向上的方式解各子问题,而贪心算法则通常以自顶向下的方式进行,以迭代的方式作出相继的贪心选择,每做一次贪心选择就将所求问题简化为规模更小的子问题。

(三)回溯法和分支限界法的区别

共同点:一种在问题的解空间树上搜索问题解的算法。

不同点:求解目标不同,回溯法的目标是找出解空间树满足约束条件的所有解,而分支限界法的求解目标是尽快地找出满足约束条件的一个解;搜索方法不同,回溯法采用深度优先方法搜索解空间,而分支限界法一般采用广度优先或以最小消耗优先的方式搜索解空间树;对扩展结点的扩展方式不同,回溯法中,如果当前的扩展结点不能够再向纵深方向移动,则当前扩展结点就成为死结点,此时应回溯到最近一个活结点处,并使此活结点成为扩展结点。分支限界法中,每一次活结点只有一次机会成为扩展结点。活结点一旦成为扩展结点,就一次性产生其所有儿子结点;存储空间的要求不同,分支限界法的存储空间比回溯法大得多,当内存容量有限时,回溯法成功的可能性更大。

三、适用情况

(一)分治法

适用特征:该问题的规模缩小到一定的程度就可以容易地解决;可以分解为若干个规模较小的相同问题,即该问题具有最优子结构性质;利用该问题分解出的子问题的解可以合并为该问题的解;所分解出的各个子问题是相互独立的,即子问题之间不包含公共的子子问题。

典型代表:二分搜索、棋盘覆盖、合并排序、最接近点对问题、循环赛日程表、汉诺塔......

(二)动态规划法

适用特征:该问题问题的最优解所包含的子问题的解也是最优的,即满足最优化原理;某状态以后的过程不会影响以前的状态,只与当前状态有关;子问题之间是不独立的,一个子问题在下一阶段决策中可能被多次使用到。

典型代表:最长公共子序列、最优二叉查找树、近似串匹配问题......

(三)贪心法

适用特征:该问题局部最优策略能导致产生全局最优解(贪心算法适用的情况很少)。

典型代表:TSP问题(最近邻点)、TSP问题(最短链接)、图着色、背包问题、多极度调度问题......

(四)回溯法


适用特征:该问题是求解组合数量较大;需要找出该问题的解集(全部解)或者要求回答什么解是满足某些约束条件的最优解。

典型代表:哈密顿回路问题、八皇后问题、批处理作业调度......

(五)分支限界法

适用特征:求解最优化问题。

典型代表:任务分配问题、多段图的最短路径问题、批处理作业调度问题、电路布线问题......

以上便是读者对五大算法的归纳总结,欢迎读者留言讨论指出不足。另外,笔者主页有一些具体算法的讨论,感兴趣的读者可以看看。
  • 1
    点赞
  • 19
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
1. 递归与分治 递归与分治是一种常用的算设计思想,主要应用于解决一些具有递归结构的问题,如汉诺塔、斐波那契数列等。它的基本思想是将原问题分解成若干个子问题,递归地解决这些子问题,最后将子问题的结果合并成原问题的解。 2. 动态规划 动态规划是一种常用的算设计思想,主要应用于求解具有最优子结构性质的问题,如背包问题、最长公共子序列问题等。它的基本思想是将问题分解成若干个子问题,并且递归地求解子问题,最后将子问题的解合并成原问题的解。动态规划具有子问题重叠和最优子结构的特点,因此可以通过记忆化搜索或者自底向上的方式求解。 3. 贪心策略 贪心策略是一种常用的算设计思想,主要应用于求解具有贪心选择性质的问题,如霍夫曼编码、最小生成树问题等。它的基本思想是每次选择当前最优的选择,然后将问题规模缩小,重复这个过程直到问题得到解决。贪心策略的正确性通常需要提供一些证明,但是在实际应用中,它往往可以提供有效的解决方案。 4. 回溯法 回溯法是一种常用的算设计思想,主要应用于求解具有多种选择性质的问题,如八皇后问题、0/1背包问题等。它的基本思想是从问题的某一种状态开始,逐步地搜索所有可能的解,直到找到满足条件的解为止。在搜索过程中,如果发现当前路径不能得到解,就回溯到上一个状态,尝试其他的选择。 5. 分支限界法 分支限界法是一种常用的算设计思想,主要应用于求解具有多种选择性质的问题,如旅行商问题、图着色问题等。它的基本思想是将问题空间分解成若干个子空间,并通过某种方式对子空间进行排序,然后按照顺序逐个扩展子空间,直到找到满足条件的解为止。在搜索过程中,如果发现某个子空间一定不能得到解,就将其剪枝掉,以减少搜索的时间和空间复杂度。 6. 随机化算 随机化算是一种常用的算设计思想,主要应用于求解一些难以确定最优解的问题,如图最小割问题、模拟退火算等。它的基本思想是将问题转换成一个随机过程,并利用随机化的方来搜索可能的解。随机化算通常可以提供近似解或者概率上的正确性保证,但是需要注意的是,它的效率和正确性可能受到随机数生成器的影响。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值