【课堂笔记】运筹学第二章：对偶问题

已于 2023-04-02 16:01:02 修改
阅读量8.4k 收藏 84
点赞数 12
文章标签： 机器学习 算法 人工智能
于 2023-04-02 15:56:08 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_51772802/article/details/129636090
版权

标题~


听说运筹学这门课挺好的，有值得一听的必要；此篇用作课堂总结、期末复习及记录。
或许与教材内容会有很大程度重复。

本系列文章主要用于笔者期末复习，行文混乱，请见谅

本章开始会适当结合一些B站网课【运筹学】应试向基础教程

备考补充及零碎知识点

  • 对偶问题的对偶问题就是原问题
  • 矩阵表达
  • 要弄清楚矩阵 A A A和 C C C分别是什么
    在这里插入图片描述
  • 最好记住这几个矩阵,进而记住弱对偶定理,松弛定理

弱对偶定理

在这里插入图片描述

结合着矩阵形式表述

推论

  • 原问题最优解目标函数值是对偶问题目标函数值的下界，对偶问题最优解目标函数值是原问题目标函数值的上界。

    对偶问题的解一定大于原问题的解

  • 原问题有无界解→对偶问题无可行解，对偶问题有无界解→原问题无可行解，但逆不成立（对偶问题无可行解时，原问题也可能无可行解)
  • 原问题有可行解而对偶问题无可行解→原问题为无界解，反之(对调"原问题"和"对偶问题")亦然

最优性

在这里插入图片描述

强对偶定理

在这里插入图片描述

互补松弛性✨

互补松弛性😦双最优解情况下）若原问题中某一约束条件对应的对偶变量( y i y_i yi​)值为非零，则该约束条件取严格等式;若约束条件取严格不等式，则其对应的对偶变量一定为0，即:

  • 若 y i > 0 y_{i}>\mathbf{0} yi​>0 ，则有 ∑ j = 1 n a i j x j = b i \sum_{j=1}^{n} a_{i j} x_{j}=b_{i} ∑j=1n​aij​xj​=bi​ ， 即松弛变量值为 0
  • 若 ∑ j = 1 n a i j x j < b i \sum_{j=1}^{n} a_{i j} x_{j}<b_{i} ∑j=1n​aij​xj​<bi​ ， 即松弛变量值不为 0 ，则有 y i = 0 y_{i}=0 yi​=0

证明过程(推荐看一看)

在这里插入图片描述

换言之:对偶变量和松弛变量的乘积为0

例子

在这里插入图片描述
本题中, y 1 y_1 y1​为0,对应第一个松弛变量 x 3 x_3 x3​不为0
y 2 , y 3 y_2,y_3 y2​,y3​不为0,对应第二第三个松弛变量 x 4 , x 5 x_4,x_5 x4​,x5​不为0

应用

知道了对偶表的最终表,就知道了飞机变量,从而知道了基变量.

影子价格

定义

单位第 i i i种资源在最优方案中做出贡献的估价

做法:通过求导得到每一种资源带来的利润的提升是多少

内涵

资源的影子价格有赖于资源的利用情况，即当目前一组基变量用于获得原问题最优解时，对偶变量 y i y_i yi​每单位对利润的贡献。（需要区别于资源的市场价格)
在这里插入图片描述
根据互补松弛性质,有如下结论:

  • 第i种资源未充分利用→其边际价格为0
  • 第i种资源的边际价格不为0→其已耗尽

注意

当出现退化的最优解时，会出现第i种资源恰好耗尽，而非稀缺，但其影子价格 y i y_i yi​仍大于0的情况(对应 y i y_i yi​的第i个约束条件的松弛变量取值为0)，此时 b i b_i bi​值的任何增加只会带来该种资源的剩余，而不增加利润值。

比如 这种值正好耗尽,同时其他值也耗尽了,这时候只增加这个值,没有用!

问题

什么叫退化的最优解

检验数的意义

在这里插入图片描述

问题

为什么 y i = C B B − 1 y_i=C_BB^{-1} yi​=CB​B−1
附上课件的解答,这个我也不知道为什么
在这里插入图片描述

问题：什么是退化的最优解

对偶问题的引入

所有问题一定能找到对偶问题，但是其对偶问题不一定有意义.

在这里插入图片描述

从另一个角度思考

假设公司A想要收购这家公司的全部资源A、B、C自己生产

从公司A的角度思考：
公司A的获利最大化——目标（以最小代价收购）
这家公司愿意出让这些资源——约束（出让所得不小于原有盈利）
以 y 1 , y 2 , y 3 y_1,y_2,y_3 y1​,y2​,y3​表示A、B与C三种资源的出让代价，

在这里插入图片描述

总结

原问题对偶问题
收益最大化代价最小化
方程的个数,即种类的个数决策变量数
价值系数对偶问题右端的项向量,即 约束
资源的 约束价值系数

对偶问题的一般形式

原问题

在这里插入图片描述

对偶问题

用 y i ( i = 1 , 2... m ) y_i(i=1,2...m) yi​(i=1,2...m)表示第 i i i种资源的估价
在这里插入图片描述

✨以矩阵描述(更加直观)

在这里插入图片描述

多做题,就知道什么是对偶了

对称形式

在这里插入图片描述

与前面内容有所重复,即 B , C B,C B,C互换, A A A转置

上面讲的都是对称形式

非对称形式✨✨✨【一定要掌握】

转化有一定的规律,下面是详细的推导过程
在这里插入图片描述
在这里插入图片描述

规律

类似对称形式的,约束条件的符号决定了变量,变量的符号决定了约束条件
⚠️注意我们说的是max向min转化的问题
⚠️如果反过来,那么最后两行的"变号" "不变号"也要对调.
在这里插入图片描述

推导过程

复习单纯形法计算过程

在这里插入图片描述

在这里插入图片描述
为了防止这个地方听不懂,做一点说明:
检验数: σ j = c j − z j = c j − C B B − 1 P j \sigma_{\mathrm{j}}=\mathrm{c}_{{j}}-z_{j} =c_j - {C}_{\mathrm{B}}B^{-1}P_j \quad σj​=cj​−zj​=cj​−CB​B−1Pj​
其中P是第 j j j列变量前的系数(参考第一章)

  • 考虑所有基变量的列:前m列所有 P j P_j Pj​合起来就变成了矩阵 B B B
    所以检验数: C B − C B B − 1 P j = C B − C B B − 1 B = 0 {C}_{\mathrm{B}} - {C}_{\mathrm{B}}B^{-1}P_j={C}_{\mathrm{B}} - {C}_{\mathrm{B}}B^{-1}B=0 CB​−CB​B−1Pj​=CB​−CB​B−1B=0
  • 考虑所有飞机变量中的 X N X_N XN​列:这些列合起来变成了矩阵 N N N
    所以同理,检验数: C N − C B B − 1 N {C}_{\mathrm{N}} - {C}_{\mathrm{B}}B^{-1}N CN​−CB​B−1N
  • 考虑松弛变量 X S X_S XS​,松弛变量的价值系数为0,则有
    检验数: 0 − C B B − 1 E = − C B B − 1 0- {C}_{\mathrm{B}}B^{-1}E=- {C}_{\mathrm{B}}B^{-1} 0−CB​B−1E=−CB​B−1

剩下的,见小字部分:推导出了②③式,然后换元

举例说明

在这里插入图片描述

对偶单纯形法

单纯形法基本思路

先寻找到初始基可行解，判断所有检验数是否小于等于0。若是，查看基变量中是否有人工变量，若无非零人工变量，即找到了最优解;若为否，再找出相邻目标函数值更大的基可行解，并继续判别，直到找出最优解。

❓问题：怎么（什么时候）添加人工变量

❓问题：有非零人工变量怎么办

对偶单纯形法基本思路

同样的，先找对偶问题的可行解再找对偶问题最优解

  • 最优性看检验数 σ j \sigma_j σj​
  • 可行性看右端项 b i b_i bi​

确定初始基解

与单纯形法不同，并不要求资源限量 b i b_i bi​为正
但是，当所有 b i b_i bi​为正，意味着原问题取到可行解，那么此时原问题和对偶问题得到的都是最优解
在这里插入图片描述

  • 先确定出基，是b里最小的

问题 为什么对偶问题的最优性一直都是满足的

跟单纯形法的区别与联系✨✨

  • 单纯形法先确定入基变量，是最大的检验数(检验数：基变量一定为0,一部分小于零一部分大于零)，对偶先确定出基变量，是最小的 b ( b < 0 ) b(b<0) b(b<0)【单纯形法先列后行，对偶单纯形法先行后列】
    ✨✨🙌检验数 σ \sigma σ非正，代表对偶问题有可行解；左边的b非负，代表原问题有可行解。

  • 单纯形法随后确定出基变量，是检验数 θ i = b i j a i \theta_i=\frac{b_{ij}}{a_i} θi​=ai​bij​​ 中最小的，【零和负数忽略！】；对偶单纯形法确定入基变量，选择 θ = min ⁡ { c j − z j a r j ∣ a r j < 0 } = c s − z s a r s \theta=\min \left\{\frac{c_{j}-z_{j}}{a_{r j}} \mid a_{r j}<0\right\}=\frac{c_{s}-z_{s}}{a_{r s}} θ=min{arj​cj​−zj​​∣arj​<0}=ars​cs​−zs​​最小的【零和正数忽略！】【先算出 σ \sigma σ再算出 θ \theta θ的】【 z s z_s zs​就是每一行 C B i ∗ a i s C_{Bi}*a_{is} CBi​∗ais​求和的值】
    【对偶单纯形法中的 σ \sigma σ和 b b b跟原单纯形法是相反的，所以事实上是一样的】

  • 单纯形法中最后判断的方式是检验数 σ \sigma σ全部小于等于零，而始终保证 b i b_i bi​全部大于等于零；而对偶单纯形法相反，最后判断的是 b i b_i bi​是否全部大于等于零，始终保证检验数 σ \sigma σ全部小于等于零。⚠️⚠️⚠️⚠️

  • 【在后面做题时发现，上面这些条件需要原问题为{min，大于等于}，并且最后转换为max的问题】

例题讲解✨✨🙌

注意看，对偶单纯形法的条件是min还是max【我看到的是min配合大于等于】
注意：对偶问题不需要用对偶表，看视频就好⚠️⚠️⚠️⚠️

在这里插入图片描述

在这里插入图片描述
https://www.bilibili.com/video/BV12Z4y1W7aU
https://www.bilibili.com/video/BV1ut4y1T7K2

下面的例题做法非考试正规做法！！但是求单纯形法规则是一样的

在这里插入图片描述
对偶问题为：
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

运输问题建模

【考试一般不考原理，要考原理考的也是单纯形法】
【运输问题的思路其实也是单纯形法，但是针对这类问题进行了优化】

产销平衡问题

建立模型

在这里插入图片描述
这还是线性规划问题，可以用单纯形法求解，但是变量太多了，有另外的求解方法。
这种方法本质上和单纯形法一样，也是先找可行解在迭代出最优解。

  • 模型特点
  1. 解有上下界
  2. 产销平衡（有一个多余约束条件）
  3. 约束条件比较特殊
  • 运输表
    在这里插入图片描述
    本题有 3 + 4 − 1 = 6 3+4-1=6 3+4−1=6个这个表应该有 m + n − 1 m+n-1 m+n−1个基变量，剩下的是非基变量

求解模型【表上作业法】

确定可行解方法①：左上角填充法

尽可能使左上角取得最大值
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

确定可行解方法②：最小元素法

每一步优先考虑单位运价最小的业务【范围是在整个表里找最小运费】
在这里插入图片描述
在这里插入图片描述

确定可行解方法③：沃格尔法

在这里插入图片描述

找运价最小与次小，二者之差称为罚数，优先选择最大的罚数
在这里插入图片描述
在这里插入图片描述

迭代方法①：闭回路法

入基变量选择

选择检验数最小【负数绝对值中最大的那个】

  • 核心：从非基变量开始，构造回路
    在这里插入图片描述
  • 原理：令起始的非基变量为1，（按照顺时针或者逆时针都可以）为了保证产销平衡的约束条件，下一个基变量减1，再下一个基变量加1，该格子检验数为这一变化带来的运费变化
  • 即：遇到空格保持直走，遇到基变量可以选择 90°拐弯，最后计算这一个非基变量对运费带来的变化。所有的非基变量都要算出来，取最小的入基

在这里插入图片描述

出基变量选择

画出入基变量的回路，如图所示，回路中偶数点最小的基变量最先变成0
【思路是让某个基变量变成0，如题，此时 θ \theta θ取2】
在这里插入图片描述

产销不平衡问题

产量大于销量

对于这类问题，可以假想一个销地 B 5 B_5 B5​，对于产量大于销量的这部分，统一运往 B 5 B_5 B5​。
由于 B 5 B_5 B5​是个假想地，实际上就是就地存储在A;的物品数量，因此其运价为0，新的单位运价表如下:
在这里插入图片描述

有转运的问题

产地同时也是销地
在这里插入图片描述

产销不确定

在这里插入图片描述
分析：

  • 首先， a 3 a_3 a3​是有上限的
  • 将产量分为最小产量和冗余产量，分别放在 A i A_i Ai​和 A i ′ A_i^{'} Ai′​【必须到/可到可不到】
  • 假定一个不能被运输的销地，销量由产量减已有销量得到。【 A i ′ A_i^{'} Ai′​这种可到可不到的放到B5相当于原地储存】
    在这里插入图片描述
学书才浅
关注
  • 12
    点赞
  • 踩
  • 84
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
【运筹学笔记】 第二章 对偶理论
weixin_43848054的博客
04-25 4693
第二章 对偶问题 对偶问题的提出 我们可以先通过一个常识来理解“对偶”的含义和特征： 矩形中，周长一定，正方形的面积最大；面积一定，正方形的周长最小。 在许多课本中，都用如下的例子来引出对偶理论： ​ 企业A拥有m种资源（有m个约束），可以消耗资源生产n种产品（有n个变量），目标是最大化总收入；那么对偶问题就是，企业B想要收购这些资源，需要确定m种资源的报价（有m个变量），目标是最小化总成本，...
AutoCAD课堂笔记(第1讲).pdf
11-17
AutoCAD课堂笔记(第1讲).pdf
电力系统稳态分析：第6章 课堂测试.ppt
05-18
电力系统稳态分析：第6章 课堂测试.ppt
电力系统稳态分析：第5章 课堂测试.ppt
05-18
电力系统稳态分析：第5章 课堂测试.ppt
电力系统稳态分析：第3章 课堂测试.ppt
05-18
电力系统稳态分析：第3章 课堂测试.ppt
卷积神经网络
m0_53881899的博客
07-25 777
卷积神经网络
【机器学习】梯度下降的基本概念和如何使用梯度下降自动化优化w和b
m0_49243785的博客
07-25 1055
到目前为止，已经开发了一个线性模型，用于预测fwbxifwb​xi))fwbxiw⋅xibfwb​xi))w⋅xib在线性回归中，利用输入训练数据来拟合参数www和bbb通过最小化预测fwbxifwb​xi))和实际数据yiy(i)yi之间的误差来衡量这个度量被称为成本JwbJ(w, b)Jwb在训练中，需要衡量所有训练样本xiyix(i), y(i)xiyiJ。
探索GAN 在改善网络安全方面的作用
知来者逆的博客
07-25 630
GAN 是一类机器学习框架，由两个神经网络组成——生成器和鉴别器。这两个网络在一个动态过程中竞争，生成器创建数据样本，鉴别器对其进行评估。生成器的目标是尽可能地生成与实际样本相似的数据。而鉴别器的目标是区分真实数据和生成的数据。在训练过程中，这种对抗关系促使两个网络不断改进。生成器会改进其输出以创建更令人信服的数据，而鉴别器则会提高其检测细微差异的能力。这种竞争会产生高度逼真的数据，使得 GAN 对于需要创建合成数据和网络安全中稳健测试场景的任务非常有用。
机器学习驱动的智能化电池管理技术与应用
YHJX57的博客
07-25 1062
3.3 两种电池电(化学)-热耦合模型的区别及应用场景。(1) 基于融合模型和融合算法的SOC估计方法。5.2.3 典型工况电池空冷模型构建及仿真演示。5.3.2 锂离子电池-冷却液流动耦合模型构建。5.3.3 典型工况电池液冷模型构建及仿真演示。3.2 电池集总参数模型及其与电池热模型耦合。5.2.2 锂离子电池-空气流动耦合模型构建。实例讲解-基于模型误差谱的SOH估计方法。基于转移注意力机制的电池剩余寿命预测方法。2.2 COMSOL中电池P2D模型构建。3.1 P2D电化学模型与电池热模型耦合。
人工智能与机器学习原理精解【8】
基础数学与应用数学
07-25 905
函数系是指由一组函数构成的集合，这些函数之间可能具有某种特定的关系或性质。在数学中，函数系的概念广泛应用于多个领域，如数学分析、泛函分析、逼近论等。函数系中的函数可以是同一类型的，也可以是不同类型的，关键在于它们之间的某种联系或共性。测度（Measure）是一个数学术语，在数学和物理学等多个领域都有广泛应用。数学上，测度是一个函数，它对一个给定集合的某些子集指定一个数，这个数可以比作大小、体积、概率等等。简单来说，测度就是用来量化集合或其子集的一种数学工具。
嵌入式C++、MQTT、数据库、Grafana、机器学习（ Scikit-learn）：智能建筑大数据管理平台（代码示例）
嵌入式极客小张
07-25 1322
系统利用微控制器和传感器进行环境监测，通过MQTT等物联网协议传输数据。数据存储方面，采用InfluxDB、MongoDB和PostgreSQL等技术，确保对时序数据和结构化数据的高效管理。大数据处理使用Apache Hadoop和Spark，实时分析通过Apache Flink实现。数据分析与机器学习采用Python和深度学习框架（TensorFlow、PyTorch），而数据可视化则借助Grafana和Tableau等工具。云平台如AWS和Azure提供基础设施支持，提升系统的可扩展性和可靠性。
机器学习的运作原理和算法分类，让机器学习更加通俗易懂
最新发布
php优质创造者
07-25 1056
👨‍💻。
什么是机器学习以及机器学习如今的社会现状！！
php优质创造者
07-22 1401
让数据舞起，用数据扩展业务
代码随想录算法训练营第22天-leetcode-二叉树08：669. 修剪二叉搜索树；108.将有序数组转换为二叉搜索树；538.把二叉搜索树转换为累加树
weixin_65180740的博客
07-24 939
你可能需要改变树的根节点，所以结果应当返回修剪好的二叉搜索树的新的根节点。给出二叉 搜索 树的根节点，该树的节点值各不相同，请你将其转换为累加树（Greater Sum Tree），使每个节点 node 的新值等于原树中大于或等于 node.val 的值之和。题目要求，实际上是每个节点加上中序排列后面的那个节点，故而可以反向中序排序，即RNL，用prior记录前一个节点的值，加上前一个节点的值即可。左右子树也必须是二叉搜索树。后序遍历每个节点，对于在范围外的节点，考虑保留其左子树/右子树（只可能保留一个）
2.6基本算法之动态规划6045:开餐馆
Andy_SCP001的博客
07-24 246
北大信息学院的同学小明毕业之后打算创业开餐馆.现在共有n 个地点可供选择。我们用一个整数序列m1, m2, ... mn 来表示他们的相对位置。由于地段关系,开餐馆的利润会有所不同。为了避免自己的餐馆的内部竞争,餐馆之间的距离必须大于k。//f[i]:从第1个位置到开第i个位置开餐馆能获得的最大利润。j++){//从j个地点到第i个地点开餐馆。//n个地点开一家店。//每个餐馆开的位置。//边界条件:只有一个地点,只开一家店。//n个地点开很多家店。
算法训练营第47天|1143.最长公共子序列|1035.不相交的线|53. 最大子序和|392.判断子序列
bless_______的博客
07-24 233
如果text1[i - 1] 与 text2[j - 1]不相同，那就看看text1[0, i - 2]与text2[0, j - 1]的最长公共子序列 和 text1[0, i - 1]与text2[0, j - 2]的最长公共子序列，取最大的。如果text1[i - 1] 与 text2[j - 1]相同，那么找到了一个公共元素，所以dp[i][j] = dp[i - 1][j - 1] + 1;未想到特殊情况，即s或t为空串的情况，因为返回的是数组值，但是如果是空串就不会建立数组。
算法-KMP字符串匹配
xx_xb的博客
07-23 308
next[i] 就是使子串 s[0…i] 有最长相等前后缀的前缀的最后一位的下标。总体来说解next数组和模板串匹配的过程很相似，触类旁通。
【算法】字典序最小的 01 字符串
2301_79728896的博客
07-24 294
每次只能交换相邻的两个字符,从前向后遍历字符,如果遇到10组合的要交换,同时k–,注意交换后的情况是前面有可能会出现10组合,因此k>0时要回退,直到(用while)前面没有10组合或k==0为止。小红有一个 01 字符串，她可以进行最多 k 次提作，每次操作可以交换相邻的两个字符，问可以得到的字典序最小的字符串是什么。第一行包含两个整数，n（1 < n < 10^5）和 k（1 < k < 10^9），表示字符串的长度和可以进行的操作次数。输出一个长度为 n 的字符串，表示字典序最小的字符串。
Lagrange 对偶问题
06-18
Lagrange 对偶问题（Lagrangian dual problem）是数学优化中的一个重要概念，它与原问题（primal problem）相对应。在最优化理论中，原问题是通过约束条件来定义的，而对偶问题则是通过这些约束的拉格朗日乘子（Lagrange multipliers）来描述的。对偶问题通常更容易解决，特别是当原问题有复杂的约束时。 原问题（假设是线性规划）可以表示为： \[ \text{maximize } c^Tx \] \[ \text{subject to } Ax \leq b, \; x \geq 0 \] 其中 \( c \) 是目标函数系数向量，\( A \) 是矩阵，\( b \) 是右端常数，\( x \) 是决策变量向量。 对偶问题则为： \[ \text{minimize } \lambda^Tb - \inf_{x \geq 0} c^Tx \] \[ \text{subject to } A^T\lambda \geq c \] 这里的 \( \lambda \) 是拉格朗日乘子向量。对偶问题的解有时比原问题更易于求解，因为对偶问题通常是凸的，而原问题可能不是。 如果你想要演示如何求解一个特定的Lagrange对偶问题，通常会涉及到一些数值优化库，如Python的CVXOPT或Scipy库，它们提供了函数来求解线性规划的对偶形式。然而，这超出了直接文本格式的范围，建议查阅相关的教程或文档进行实践操作。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值