线性规划笔记

0. 引言

问题–模型–算法–可行性
模型（Models）：Linear Programming (LP), Non Linear Programming (NLP), Integer programming (IP), etc.
算法（求解）：Simplex, Interior point, Steepest decent, etc.
详细：

1.基本知识

1.1 标准型LP （Standard form LP）
max f(x)=c’x
s.t. Ax<=b
x>=0
1.2 KKT(最优解条件)
1） 无约束问题：常见问题，求导或者常见方法等。
2） 等式约束问题：拉格朗日法（Lagrange）
3） 不等式约束问题： KKT法
对于LP（仅对于不包括等式约束的不等式约束问题），同样构建类似的拉格朗日函数，并且包含四个条件：对x求导为0、权重小于0、原不等式约束、权重*不等式=0.
1.3 对偶性（Dual）（详看：线性规划的对偶问题（The Dual of LP））
标准型LP的对偶：
min g(x)=b’y
s.t. A’y>=c
y>=0
需要会的：1）求对偶；2）根据对偶求最优解
弱对偶和强对偶
互补松弛定理与应用（Complementary slackness）
两个不知道怎么用的定理：极方向（extreme direction）和法卡斯定理（Fakars’ Lemma）
1.4 单纯形算法（Simplex Algorithm）
【运筹学】线性规划 单纯形法 阶段总结 ( 初始基可行解 | 判定最优解 | 迭代 | 得到最优解 | 全流程详细解析 ) ★
线性规划问题及单纯形法-单纯形法计算步骤
线性规划的对偶问题（The Dual of LP）
运筹学—线性规划单纯形表
不知为何，这些方法里都不详细介绍如何绘制单纯形表：
1）首先引入松弛变量，将LP化为标准型：【运筹学】线性规划数学模型标准形式 ( 标准形式 | 目标函数转化 | 决策变量转化 | 约束方程转化 | 固定转化顺序 | 标准形式转化实例 ) ★★， 这里得到：带有松弛变量的目标函数、全部为等式切带有松弛变量的约束、约束的系数矩阵包含单位矩阵。
2）单纯形表包含：基变量和基变量系数（单纯形法（三）（概念部分））、常数b、目标函数里的（系数、变量和变量对应的系数矩阵），至此初始表画完。
3）计算非基变量的检验数：（C(N,T)-C(B,T)*B(逆)*N），有的数都小于等于，说明该解就是最优解。然后按照上面链接计算即可。最终得到最优解。【C(N,T)是非基变量在目标函数中的系数矩阵，C(B,T)是基变量在目标函数中的系数矩阵，B(逆)*N是系数矩阵经过矩阵变换后，使得基变量系数是单位阵后的非基变量系数矩阵】
对偶单纯形
1.5 灵敏性分析（Sensitivity analysis）
参数改变对最优结果（最优值和最优解）的影响，一般为目标函数的系数和约束不等式右侧的参数。.
1.6 多目标优化
1.7 Benders分解（Benders’ Decomposition）
如果问题规模不大，可以直接求解。但是如果问题规模较大，可以进行分解。
Benders分解处理一种约束条件有明显对角块的LP。
几个名词：主问题（Master Problem，MP）、次问题（ Subproblem，SP）、次问题对偶问题（Subproblem Dual，SD）、次问题解（Subproblem Resolution，SR）、可行性切割（Feasibility cut，FC）、最优切割（Optimality cut，OC）
详解 Benders 分解与一个算例的 python 代码：该文是混合整数规划，不是一般的LP，但可以借鉴。基本思想是：将原问题的求解变量分为两部分，同时也将原问题分解成一个两阶段问题：主问题与子问题；随便初始化子问题的目标函数值，然后求解主问题得到第一部分变量的值（或者随便初始化第一部分变量的值），再将第一部分变量的值代入子问题求解第二部分变量的值；根据子问题是否可行解以及无界解的情况，更新约束并添加到主问题中，主问题的上下界也会发生变化；反复迭代，直到主问题的上界与下界十分接近为止。
1.8 Gomory切割（Gomory cut）
解决整数线性规划（Integer Linear Program，ILP）