第一章 最优化简介

 最优化计算方法

最优化问题的分类：

稀疏优化

可以转换。

例子：

可以用L1代替L0，但是不可以用L2代替L0：

因为，三种范数的性质问题：

 

优化算法

要么这个问题可以有显式解，要么可以通过迭代逼近。

k：第k个x，不是阶。f*为真实最优解。

复杂问题转化的技巧

收敛速度

Q-收敛速度

Q-线性收敛：

Q-超线性收敛：

Q-次线性收敛：

Q-二次收敛（以及类似的Q-r次收敛）：

R-收敛速度