优化理论与方法

优化问题 ：eg:，其中x在控制问题中被称为为控制决策变量；在数学优化中叫做决策量。无论是最优控制还是数学优化（数学规划）都是优化问题，即都是这样的形式。

1. 优化的两个基本问题

• 确定一个优化的必要或/和充分的条件（建模）。
• 设计一个数值程序（算法的设计+程序的实现）。

遗传算法在弱优化或无约束优化问题中应用较好。

2. 优化的相关概念

静态    vs    动态    数学优化最优控制；

连续    vs   离散    数学优化的离散与连续问题控制问题的连续与离散问题；

凸   vs   非凸   既可能与目标有关，又可能与约束有关；

完美   vs   满意   结果的完美解与满意解；

严格   vs   启发   方法在数学上是否严格收敛到最优与否。

2.1 静态优化（参数优化、数学规划等方法）

• 对变量进行优化；
• 约束条件与目标为代数方程或不等式。

2.2 动态优化（变分问题、最优控制）

• 对函数进行优化（例如最优决策路径）（函数未知）
• 目标为积分型泛函；
• 约束条件包含微分方程。

2.3 连续优化与离散优化

• 可行域（决策空间）
•     0-1规划
•     整数规划
• 时间序列
•     离散时间的动态规划——差分描述
•     连续时间的动态规划——微分描述

2.4 确定性优化与随机优化

• DP 动态优化 确定性；
• MDP Markov决策过程 随机性

2.5 凸与非凸

• 凸集；
• 凸函数

2.6 启发与随机化搜索

• 启发式+随机化=高级启发或超级启发（遗传算法、模拟退火算法、蚁群算法）；

2.7 完美解与满意解

• 一般需要对满意解进行评价

3 优化方法

迭代    vs   解析    计算机喜爱迭代方法，并且这种方法效率高；

串行    vs    并行    

求导    vs    搜索

点对点    vs    集到集

解析    vs    启发

注：结构知识绝对重要，搜索方法应当在结构信息的指导下进行搜索。启发、学习、人的才智以及软优化在求解方法中占有重要地位。

一些常用的迭代方法

• 梯度法（利用了梯度结构信息）
• 牛顿法（利用了梯度+Hessen矩阵等结构信息）
• BFGS （共轭梯度结构信息）