Branch and Bound（分支定界算法）学习笔记

最新推荐文章于 2025-03-19 15:32:58 发布
最新推荐文章于 2025-03-19 15:32:58 发布
阅读量2.1k 收藏 36
点赞数 24
文章标签： 学习 笔记
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_67820498/article/details/143377049
版权

分支定界算法的基本介绍：分支定界算法作为在解决整数规划问题的精确算法中最基本、最底层的算法，由伦敦政治经济学院的 Ailsa Land 和 Alison Doig 于1960年首次提出，是一种分而治之、先松后紧、张弛有度的算法。而后在1963年，由 John D.C. Little 在发表的关于TSP的研究中，明确使用“Branch and Bound“ 对该方法进行命名。

分支定界算法的一般步骤和主要特征梳理如下：

（1）松弛：线性松弛，将整数规划（IP）松弛为对应的整数规划线性松弛（IPr）；

（2）分支：通过不断分支，将初始IPr的可行域连续划分为多个子区域；

（3）求解：求解每个子区域对应的子问题；

（4）更新：根据子问题的最优值、解的整数特性、目标函数的优化方向，来更新全局上下界

（5）终止：获得最优解，或上下界在一定容差界限内。

线性松弛

定义：将整数规划（IP）的整数约束和0-1约束全部去掉，会得到一个线性规划（LP），该线性规划（LP）被称为原来整数规划的线性松弛，本文用符号（IPr）来表示（IP）的线性松弛问题。

分支定界树

这一个不断二分的树形结构，也经常被称为分支定界树，Branch-and-Bound Tree(BB tree)

BB tree的一些重要的概念和特征：

（1）BB tree的根节点，无前驱节点，相当于IP对应的线性松弛问题IPr；

（2）BB tree是满二叉树结构，树中的节点要么是出度为2的节点，要么是叶子节点，出度为0，不存在出度为其他值的节点，相当于对于树中节点对应的任何一个问题，要么能分为两个子问题，要么不可再分；

（3）BB tree子节点的度等于2，其后有2个后继节点，相当于将当前问题分为两个可行域无交集的子问题；

（4）BB tree叶子节点的度等于0，其后有0个后继节点，当前节点已被剪枝，相当于当前问题已被查明/洞悉，不会再分；

（5）BB tree节点的查明/洞悉，被查明的节点无需再分支，我们可以将其进行剪枝，若节点对应的问题满足下面的任何一个条件，则可判断该节点已被查明；

  • 该节点不可行。即可行性剪枝，节点对应的问题无意义

  • 该节点得到了一个整数解。即最优性剪枝，节点对应的问题已经完成了使命

  • 该节点的线性松弛问题的最优值，不超过全局下界（最大化问题）。即界限剪枝，节点松弛之后求得的解，还没有目前的全局下界高，可以预见到继续分支不会对问题全局下界有任何影响，无分支的必要了

 （6）BB tree的终止条件，当所有的叶子节点均被查明，或全局上下界的在所给的容差界限内。

分支定界算法解析

分支定界算法始终围绕着一颗搜索树进行的，我们将原问题看作搜索树的根节点，从这里出发，分支的含义就是将大的问题分割成小的问题。

分支的过程就是不断给树增加子节点的过程。而定界就是在分支的过程中检查子问题的上下界，如果子问题不能产生一比当前最优解还要优的解，那么砍掉这一支。直到所有子问题都不能产生一个更优的解时，算法结束。

最大化问题的分支定界算法伪代码如下所示：

 最大化问题的分支定界算法流程图：

 分支、搜索与剪枝策略

在实际的操作过程中，仍有一些内容需要关注，主要包括分支、搜索与剪枝策略三部分，对于这几部分的设计与选择会直接影响算法的求解效率。

（1）分支策略

在选取分支变量对父节点的问题进行分支时，可能存在若干个非整数变量，那么如何选择具体的分支变量，下面给出了几种常见的可选分支策略：

  • 最不可行分支：选择分数部分最接近0.5的（最偏离整数的）变量进行分支；

  • 最大分数值分支：选择分数部分最大的变量进行分支；

  • 伪检验数分支：在使用启发式方法近似估计约束对偶变量的基础上，得到变量检验数的估计值，进一步评估变量的分支对目标函数的影响，最终选择更有利的分支变量；

  • 强分支：在分之前首先估计哪个分支会给目标函数带来最大改进，然后选择该变量进行分支。

（2）搜索策略

在节点队列中，对于不同子节点的选择会直接影响BB tree的搜索策略，一些常见的遍历策略如下所示。

  • 深度优先搜索：在发生剪枝前，下一次搜索的节点一定是当前节点的后继，节点队列“先入后出”一般可保证深优；

  • 广度优先搜索：优先遍历同一层次的节点，完毕后再遍历下一层次的节点，节点队列“先入先出”一般可保证宽优；

  • 最好界限优先搜索：根据问题的优化方向，选择局部LB或者局部UB最好的节点首先被搜索。

（3）剪枝策略

  • 查明一个节点：包含前述的3个查明条件（可行、最优、界限）之一，即可进行剪枝；

  • 优超关系：更加灵活和动态的一种“界限剪枝”，如果基于一些信息，在任何时候都可以确定节点y的最佳子节点至少与节点x的最佳子节点一样好，那么就说y优超了x，那么x就失去了搜索的必要，将其剪枝。

案例分析一：利用分支定界算法求解最大化优化问题

代码逻辑描述：

1.求解线性松弛的原问题，判断是否可行

2.当未被探索的问题集不为空，且上下界的gap大于阈值，则根据搜索策略选择子问题进行探索

3.算法的终止条件 当未被探索的问题集不为空；如果上界等于下界，或者上界-下界的gap很小，则算法终止。

from gurobipy import *
import copy
import numpy as np
import matplotlib.pyplot as plt

RLP = Model("relaxed IP")
x = {}

# 设置决策变量
for i in range(2):
    x[i] = RLP.addVar(lb=0, ub=GRB.INFINITY, vtype=GRB.CONTINUOUS, name = 'x_'+str(i))

# 设置目标函数和约束条件
RLP.setObjective(100*x[0]+150*x[1],GRB.MAXIMIZE)
RLP.addConstr(2*x[0]+x[1]<=10)
RLP.addConstr(3*x[0]+6*x[1]<=40)

# 求解解松弛问题
RLP.optimize()

class Node:
    def __init__(self):
        self.model = None
        self.x_sol = {} #solution of sub-problem
        self.x_int_sol = {} #round integer of solution
        self.local_LB = 0  #local bound of node, sub-problem
        self.local_UB = np.inf
        self.is_integer = False #is integr solution
        self.branch_var_list = []  #store branch variable

    def deepcopy(node):
        new_node = Node()
        new_node.local_LB = 0
        new_node.local_UB = np.inf
        new_node.x_sol = copy.deepcopy(node.x_sol) #solution of sub-problem
        new_node.x_int_sol = copy.deepcopy(node.x_int_sol) #round integer of solution
        new_node.branch_var_list = [] # do not copy, or that always use the same branch_var_list in sub-problem
        # deepcopy, or that the subproblem add all the new constraints sub-problem->infeasible
        new_node.model = node.model.copy()  # gurobi can deepcopy model
        new_node.is_integer = node.is_integer

        return new_node

def branch_and_bound(RLP):
    # initialize the initial node
    RLP.optimize()
    global_UB = RLP.ObjVal
    global_LB = 0
    eps = 1e-3
    incumbent_node = None
    Gap = np.inf

    '''
        branch and bound
    '''

    # create initial node
    Queue = []
    node = Node()
    node.local_LB = 0
    node.local_UB = global_UB
    node.model = RLP.copy()
    node.model.setParam("OutputFlag",0)
    node.cnt = 0
    Queue.append(node)

    cnt = 0
    Global_UB_change = []
    Global_LB_change = []
    while(len(Queue) > 0 and global_UB - global_LB >
最低0.47元/天 解锁文章
MATLAB智能优化算法-学习笔记（5）——蚁群算法求解容量受限的车辆路径问题
g1997c的博客
10-15 1286
容量受限的车辆路径问题（Capacitated Vehicle Routing Problem, CVRP）是一种典型的组合优化问题，广泛应用于物流、配送和运输领域。其目标是设计一组从配送中心出发到多个客户点的路径，在满足每辆车的容量限制的前提下，覆盖所有客户需求并最小化总运输成本或行驶距离。
嵌入式工程师成长之路（7）——算法学习
热门推荐
云轩阁
07-21 3万+
算法大全1、风仲达——算法笔记2、坐在马桶上学算法3、啊哈算法4、深度强化学习实验室。
9.Branch-and-Bound 方法
其木王·王子的博客
09-23 610
Branch-and-Bound 方法的优势在于它能够保证找到问题的最优解，并且在搜索过程中通过剪枝减少了不必要的计算。对于最小化问题，如果子问题的界限大于当前已知的最优解的界限，那么这个子问题及其所有后代节点可以被排除（剪枝），无需进一步搜索。Branch-and-Bound 方法的有效性很大程度上依赖于问题的特性和限界函数的选择，良好的限界函数可以显著提高算法的效率.分支：从待搜索列表中选择一个节点进行扩展，为该节点的每个子节点计算界限，并将这些子节点加入到待搜索列表中。
分支定界算法
06-21
算法的主要部分其实就是一句话，使用的库函数实现的，前面所有的内容都是为使用那个库函数做准备，只是把系数矩阵、右值矩阵之类的变量准备好而已。 函数中调用了两个小函数，一个是用边集合生成邻接矩阵的函数，一个是生成最短路径的floyd算法。需要的话可以查看我的另外两个上传的资料
【分枝定界法】分枝定界法是什么？请详细进行解释
wq6qeg88的博客
03-03 1400
虽然最坏情况下计算复杂度较高，但通过合理的剪枝策略和求解器优化，可以在实际应用中高效求解 MILP 和 IP 问题。，它结合了分枝（Branching）和剪枝（Bounding）技术，使得问题求解更加高效。问题，如整数规划、组合优化问题、约束优化问题等。分枝定界法是一种用于求解整数规划问题的。，简称 B&B）是一种用于求解。中进行深度优先或广度优先搜索。混合整数线性规划（MILP）整个求解过程可以类比于在。分枝定界法的核心思想是。
Branch and Bound Algorithm
Nerd_的博客
12-23 818
Branch and Bound Algorithm分支限界算法主要思想限界函数两种常见的分支限界先进先出(FIFO)最小耗费或最大收益分支限界和回溯 分支限界算法 分支限界算法是另一种系统搜索解空间的方法。 分支限界算法也常把解空间组织成树的结构（常捡的，子集树和排列树），一般采用广度优先(BFS)或最小耗费来搜索树 主要思想 对一个扩展结点，一次生成其所有的子节点，将不可能产生可行解（或最优解）的结点舍去，其余的记入活结点表；按照一定规则，从活结点表中取出下一个结点作为新的扩展结点，重复展开，直到得到可
branch and bound algorithm(分支限界法)
godaa的博客
03-04 1365
分支限界法 一、基本思路 与回溯法一样，分支限界法也是在问题的解空间树上搜索问题的解的一种算法。 二、分支限界法与回溯法的区别 两者很类似，很容易混淆，但有如下显著的区别可区分两者： 1、求解目标不同 回溯法的求解目标一般是找出解空间树中满足条件的所有解。 分支限界法则是尽快找出满足约束条件的一个解，或是在满足约束条件的解中找出在某种意义下的最优解。 2、搜索方式不同 回溯法——>深度优先 (DFS) 遍历结点搜索解空间树。 分支限界法——>广度优先 （BFS) 或最小耗费 (Least Co
分支定界法（Branch and Bound, 简称B&B）是一种求解整数规划问题的有效算法。
MrLi的博客
07-16 1640
分支定界法（Branch and Bound, 简称B&B）是一种求解整数规划问题的有效算法。它结合了搜索与迭代的思想，通过系统地枚举候选解来寻找最优解。在求解过程中，算法将问题的可行解空间视为一个树形结构，其中根节点代表整个解空间，而树的分支则代表解空间的子集。算法通过不断地探索这些分支，并利用上界和下界的信息来剪枝，从而缩小搜索空间，提高求解效率。
清华数据挖掘：理论算法 视频笔记
Urlli的博客
03-29 428
课程来源：清华大学-数据挖掘：理论与算法（国家级精品课）_哔哩哔哩 (゜-゜)つロ 干杯~-bilibili 数据预处理 数据挖掘的最重要的一环：数据预处理。算法则是其次。 Data Preprocessing: Data Cleaning: Fill in missing values Correct inconsistent data Identify outliters and noisy data Data Integration: Combine data from differe
一文绝对搞懂算法到底是什么
最新发布
m0_74107848的博客
03-19 808
算法（Algorithm）是一系列明确的、有限的步骤，用于解决特定问题或完成特定任务。它就像一本详细的食谱，告诉你如何从原材料开始，一步步做出美味的菜肴。算法的核心在于输入处理和输出输入：算法需要处理的数据或信息。处理：按照一定的规则和步骤对输入数据进行操作。输出：经过处理后的结果。举个例子，假设你需要在一本书中找到某个特定的单词。你可以一页一页地翻看，直到找到为止。这种方法虽然简单，但效率可能很低。如果你知道书的页码是按字母顺序排列的，你可以采用“二分查找”的方法，快速定位到目标单词。
分支定界算法实现
10-24
分支定界算法实现
branch and bound
03-04
branch and bound
branch and bound（分支定界）算法
YiYeZhiNian的博客
07-01 1万+
最近在看cartographer算法，其中的闭环优化使用到了branch and bound（分支定界）算法，这里简单记录一下： 简单的说，分支定界算法的主要思想是用数的节点表示所有可能的子集，根节点表示所有可能的解，叶节点表示所有的解。 ...
分支定界法（Branch and Bound, B&B）
m0_74052450的博客
12-09 2752
计算当前根节点（即所有特征的子集）的下界（或上界），这个下界可以通过一些启发式方法来估算，通常使用较弱的启发式估算方法，如贪心策略或简单的分类器评估来估算。总结来说，分支定界法是一种通过递归分支和剪枝的方式来逐步逼近最优解的方法，适用于各种组合优化问题，但其计算复杂度较高，适用的场合需要根据问题的规模和特性来判断。例如，对于当前的特征子集，可以考虑加入一个新的特征，或者去除一个已经选中的特征。3. 剪枝：通过计算子问题的下界，如果下界比当前已知的最优解差，那么该子问题就不需要再继续求解，从而剪去该分支。
【算法】分支定界算法
半生瓜のblog
10-23 1340
分支定界算法 概念 分支定界(branch and bound)算法是一种在问题的解空间上搜索问题的解的方法。但与回溯算法不同，分支定界算法采用广度优先或最小耗费优先的方法搜索解空间树。并且，在分支定界算法中，每一个活结点只有一次机会称为扩展结点。 ​ 利用分支定界算法对问题的解空间树进行搜索，它的搜索策略是： 产生当前扩展结点的所有孩子结点。 在产生的孩子结点中，抛弃那些不可能产生可行解(或)最优解的结点。 将其余的孩子结点加入活结点表。 从活结点表中选择下一个活结点作为新的扩展结点。 如此循环，
分支定界算法(c++)
dianzi1117的博客
09-27 1390
用c++也写了分支定界算法，解决背包问题。 参考：https://www.geeksforgeeks.org/implementation-of-0-1-knapsack-using-branch-and-bound/ #include <iostream> #include <algorithm> #include <stack> #i...
分支定界(Branch&bound)算法
dianzi1117的博客
09-27 892
背包问题，一般可以用动态规划解决。当涉及到的物体数目比较多，填表法所需要的存储空间很大$O(nW)$，每次都以内存不足告终。 参考： https://www.geeksforgeeks.org/implementation-of-0-1-knapsack-using-branch-and-bound/ 1.填表法： def solve_it(input_data): ...
分支定界方法（branch and cut，branch and price的基础）
sinat_41348401的博客
10-18 2万+
运筹我们最先接触分支定界算法，也就是由Land Doig和Dakin在20实世纪60年代初提出的branch and bound算法，用在整数规划（全部决策变量是整数）中。其实用在混合整数规划（部分决策变量是整数）中也是可以的（本身混合整数规划就能够转化为整数规划）。 目前很多求解器，如cplex和gurobi就是基于分支定界算法框架设计的。 1.基础版的分支定界算法（假设是min问题） 首先介绍几个定理： （1）若上界和下界相等，且上界是整数可行解，那么上界对应的可行解就是最优解。 备注：假如上
Branch-and-Price
03-09
### Branch-and-Price Algorithm in Operations Research and Optimization Branch-and-Price is an advanced technique that combines branch-and-bound with column generation methods to solve large-scale integer programming problems effectively. This approach decomposes complex models into smaller subproblems, which are easier to manage and optimize individually before integrating solutions through pricing mechanisms. The core idea behind this methodology involves iteratively generating columns (variables) as needed during the solution process rather than enumerating all possibilities upfront. Such dynamic addition of variables significantly reduces computational burden while maintaining optimality guarantees[^3]. In practice, implementing Branch-and-Price requires careful consideration of several components: 1. **Master Problem**: Formulates constraints based on existing columns. 2. **Subproblem or Pricing Problem**: Identifies new promising columns not yet included in the master problem by evaluating reduced costs associated with potential additions. 3. **Column Generation Process**: Iterates between solving the restricted master problem and identifying additional profitable columns until no further improvement can be made. 4. **Branching Strategy**: Once optimal fractional solutions emerge from column generation phase, branching decisions split feasible regions strategically to enforce integrality conditions progressively towards obtaining final integer-optimal results. ```python def branch_and_price(master_problem, pricing_problem): # Initialize with initial set of columns current_columns = initialize_columns() while True: # Solve Master Problem status, obj_val, duals = solve_master_problem(current_columns) if check_optimality(duals): break # Generate new columns via Subproblem/Pricing Problem new_column = generate_new_column(pricing_problem, duals) if not new_column: break # Add newly generated column(s) back into Master Problem add_to_current_columns(new_column) return get_integer_solution(status, obj_val) ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值