线性优化技巧-CSDN博客

本文链接：https://blog.csdn.net/Young_Gy/article/details/50654231

概览
线性化的必要性
非线性条件线性化
总结
Julia优化例子
- Knapsack
- Diet

概览

线性优化，指的是目标函数和约束条件都是线性的优化问题。

面对一个优化问题，首先需要建立优化问题的模型，因此需要编程语言；对优化问题建模后需要求解该问题，因此需要求解不同优化问题的solver。

本系列使用的编程语言以及solver如下：

编程语言Julia：是一个由MIT学生开发的高性能动态编程语言，有很多包可以添加来扩充其功能。
优化库JuMP：是Julia的一个包，用于建立优化问题。
solver：Jump支持很多开源与商业的solver，这些solver用于求解优化问题。常用的solver有COIN Clp, COIN Cbc, Gurobi等。

本系列大部分内容参考了下面课程，予以感谢：MITx: 15.053x Optimization Methods in Business Analytics。

线性化的必要性

求解线性问题要比求解非线性问题容易很多，因此将非线性的目标函数或者约束跳进进行线性化，有利于求解优化问题。
本文将介绍三种常见的非线性约束并探讨如何将其线性化。

非线性条件线性化

绝对值约束

绝对值约束将绝对值拆开即可。

| x 1 + x 2 - x 3 - x 4 | \leq 5 {x 1 + x 2 - x 3 - x 4 \geq - 5 x 1 + x 2 - x 3 - x 4 \leq 5

$\begin{equation} |x1 +x2 –x3 –x4|≤5 \left\{\begin{aligned} x1 +x2 –x3 –x4 \ge -5\\ x1 +x2 –x3 –x4≤5 \end{aligned}\right. \end{equation}$

最大最小约束

最大最小约束（或最小最大约束），可以将优化目标用一个自变量代替，然后补充满足条件的自变量的约束条件即可。

max min {50 x 1, 25 x 2, 20 x 3, 15 x 4} ⎧ ⎩ ⎨ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ max z z \leq 50 x 1 z \leq 25 x 2 z \leq 20 x 3 z \leq 15 x 4

$\begin{equation} \max \min \{50x_1, 25x_2, 20x_3, 15x_4\} \left\{\begin{aligned} \max z \\ z \le 50x_1 \\ z \le 25x_2 \\ z \le 20x_3 \\ z \le 15x_4 \end{aligned}\right. \end{equation}$

比例约束

对于比例约束，只需要将两边同乘以分母即可，有以下两点需要注意：

分母如果是负数，必须得变化符号。
分母如果是0，那么新的约束同样满足条件，所以0的情况不用考虑。

x 1 ( x 1 + x 2 + x 3 + x 4 ) \geq .2 {.8 x 1 - .2 x 2 - .2 x 3 - .2 x 4 \geq 0

$\begin{equation} \frac{x1}{(x1 +x2 +x3 +x4)} ≥ .2 \left\{\begin{aligned} .8x1 -.2x2 -.2x3 -.2x4 ≥0 \end{aligned}\right. \end{equation}$

总结

大部分情况下，非线性的目标函数或者约束都不可以直接转化成线性，只有下面三种除外：

绝对值约束
最大最小约束
比例约束

Julia优化例子

Knapsack

using JuMP, DataFrames
# Define model
m = Model()
# Define capacity
capacity = 11
# Read data from CSV file using readtable
data = readtable("knapsack_data.csv", header = false)
# Weights from first column, weights = [1 2 15 6 28]
weights = data[:,1]
# Values from second column, values = [1 6 18 22 7]
values = data[:,2]
# Assign binary values to items
@variable(m, x[1:5], Bin)
# Constraint on total weight
@constraint(m, sum{weights[i]*x[i], i in 1:5} <= capacity) 
# Maximize value from items
@objective(m, Max, sum{values[i]*x[i], i in 1:5})
# Solve model
solve(m)
# Determine which items to carry 
println("Variable Values: ", getvalue(x))
# Determine value from items carried
println("Objetive value: ", getobjectivevalue(m))

Diet

using JuMP
#Define model 
m = Model()
#Food available
S = ["brownies","ice cream","cola","cheese cake"]
#Non-negativity
@defVar(m, x[S] >= 0)
#Minimum calories
@addConstraint(m, 400x["brownies"] + 200x["ice cream"] + 150x["cola"] + 500x["cheese cake"] >= 500)
#At least 6 grams of chocolate
@addConstraint(m, 3x["brownies"] + 2x["ice cream"] >= 6)
#At least 10 grams of sugar
@addConstraint(m, 2x["brownies"] + 2x["ice cream"] + 4x["cola"] + 4x["cheese cake"] >= 10)
#At least 8 grams of fat
@addConstraint(m, 2x["brownies"] + 4x["ice cream"] + 1x["cola"] + 5x["cheese cake"] >= 8)
#Minimize cost of consumption
@setObjective(m, Min, 0.5x["brownies"] + 0.2x["ice cream"] + 0.3x["cola"] + 0.8x["cheese cake"])
#Solve the optimization problem
solve(m)
#Determine consumption amounts
println("variable values: ", getValue(x))
#Determine optimal cost of consumption
println("Objetive value: ", getObjectiveValue(m))