最优化算法---可行方向之Frank-wolfe 方法(求解非线性规划问题)

问题定义在这里插入图片描述在这里插入图片描述
主要思想

在这里插入图片描述

具体方法

在这里插入图片描述
去掉常数项
在这里插入图片描述
在这里插入图片描述
极点:函数值取极值对应的变量取值
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

具体步骤:
在这里插入图片描述

举例:

在这里插入图片描述
每上步转化为:
在这里插入图片描述
在这里插入图片描述

  • 7
    点赞
  • 43
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
Frank-Wolfe算法和ALM算法是两种常用的优化算法。 1. Frank-Wolfe算法(也称为条件梯度算法)是一种用于凸优化问题的迭代算法。它的基本思想是在每次迭代中,通过求解一个线性子问题来找到当前迭代点处的最优解。具体步骤如下: - 初始化一个可行解。 - 计算当前迭代点处的梯度。 - 求解一个线性子问题,找到一个方向,使得在这个方向上的线性组合与当前迭代点处的梯度最接近。 - 更新迭代点,将其移动到线性子问题的最优解处。 - 重复上述步骤,直到满足停止准则。 这个算法的优点是每次迭代只需要求解一个线性子问题,因此在每次迭代中的计算开销相对较小。但是,它可能需要较多的迭代次数才能收敛到最优解。 2. ALM算法(Augmented Lagrangian Method,增广拉格朗日法)是一种用于求解带有约束的优化问题算法。它通过将原始问题转化为一系列无约束的子问题求解。具体步骤如下: - 初始化一个可行解。 - 构造增广拉格朗日函数,将原始问题转化为一个无约束的优化问题。 - 求解无约束的优化问题,得到一个新的可行解。 - 更新拉格朗日乘子。 - 重复上述步骤,直到满足停止准则。 这个算法的优点是可以处理带有约束的优化问题,并且在每次迭代中都可以保证目标函数值的下降。但是,它可能需要较多的计算资源和时间来求解每个子问题
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值