1956
年,Frank和Wolfe提出了一种求解线性约束问题的算法,其基本思想是将目标函数作线性近似,通过求解线性规划求得可行下降方向,并沿该方向在可行域内作一维搜索.这种方法又称作近似线性化方法.
问题
原理
近似线性化和可行下降方向
假设此问题存在有限最优解yk,则由线性规划的基本知识可知,这个最优解可在某极点上达到.
结论:
确定一维搜索步长
算法步骤
全局收敛性分析
Frank-Wolfe算法是一种可行方向法,在每次迭代内,搜索方向总是指向某个极点,并且当迭代点接近最优解时,搜索方向与目标函数的梯度趋于正交,因此算法收敛速度比较慢.但该方法把求解非线性最优化问题转化为为求解一系列线性规划问题,而且各线性规划具有相同的约束条件,因而该方法在实际应用中仍然是一种有用的算法.