拉格朗日乘子法

你的凡王

已于 2024-05-21 14:06:17 修改

阅读量213

点赞数 2

文章标签：算法

于 2024-05-16 23:35:56 首次发布

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/m0_65325092/article/details/138978435

版权

用于求解有约束条件的优化问题，通过引入拉格朗日乘子将原问题转化成无约束优化问题。

一. 等式约束

问题：

在约束条件

$\left\{\begin{matrix} g_1(\vec{x})=0\\ g_2(\vec{x})=0\\ ...\\ g_k(\vec{x})=0\\ \end{matrix}\right.$

下求目标函数

$f(\vec{x})$

的最小值。

解法：

取拉格朗日函数

$L(\vec{x},\lambda_1,...,\lambda_k)=f(\vec{x})+\sum\limits_{i=1}^{k}\lambda_ig_i(\vec{x}),$

解

$\left\{\begin{matrix} \bigtriangledown_{\vec{x}}L(\vec{x},\lambda_1,...,\lambda_k)=\vec{0},\;\;\;\\ g_i(\vec{x})=0,\; i=1,2,...,k.\\ \end{matrix}\right.$

即可得到目标函数最小值点。

二. 不等式约束

问题：

在约束条件

$\left\{\begin{matrix} \;g_i(\vec{x})=0,\; i=1,2,...,k,\\ h_j(\vec{x})\leq 0,\; j=1,2,...,l.\\ \end{matrix}\right.$

下求目标函数

$f(\vec{x})$

的最小值。

解法：

取拉格朗日函数

$L(\vec{x},\lambda_1,...,\lambda_k,\mu_1,...,\mu_l)=f(\vec{x})+\sum\limits_{i=1}^{k}\lambda_ig_i(\vec{x})+\sum\limits_{j=1}^{l}\mu_jh_j(\vec{x}),$

解

$\left\{\begin{matrix} \bigtriangledown_{\vec{x}}L(\vec{x},\lambda_1,...,\lambda_k,\mu_1,...,\mu_l)=\vec{0},\;\;\;\\ g_i(\vec{x})=0,\; i=1,2,...,k, \quad \quad\quad\quad\\ h_j(\vec{x})\leq 0,\; j=1,2,...,l, \quad \quad\quad\quad\\ \mu_j\geq 0, j=1,2,...,l, \quad \quad\quad\quad \quad\;\;\;\\ \mu_jh_j(\vec{x})=0,j=1,2,...,l. \quad \quad\;\;\;\;\; \end{matrix}\right.$

即可得到目标函数最小值点。

关注

2
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
拉格朗日乘子法

用于求解有约束条件的优化问题，通过引入拉格朗日乘子将原问题转化成无约束优化问题。
复制链接

扫一扫

你的凡王 CSDN认证博客专家 CSDN认证企业博客

码龄3年

19: 原创

117万+: 周排名

7万+: 总排名

6647: 访问

: 等级

343: 积分

88: 粉丝

143: 获赞

3: 评论

85: 收藏

私信

关注

热门文章

最新评论

XGBoost
CSDN-Ada助手: 恭喜您发布了关于XGBoost的第9篇博客！您的持续创作精神令人钦佩，相信您的专业知识会为更多人带来帮助和启发。建议您在接下来的创作中，可以深入探讨XGBoost的应用场景和优化技巧，或者结合实际案例进行分析，让读者更易于理解和应用。期待您更多精彩的文章，加油！
决策树
CSDN-Ada助手: 恭喜您撰写了关于决策树算法的博客！不断分享知识和经验对于自己的成长和他人的帮助都是非常有益的。接下来，我建议您可以尝试探讨一下决策树算法在不同领域的应用案例，或者是与其他机器学习算法的比较和结合运用等方面的内容。期待您更多精彩的创作！
分类方法中的类别不平衡问题
CSDN-Ada助手: 恭喜用户在第6篇博客中探讨了分类方法中的类别不平衡问题！这是一个非常重要且复杂的主题，您的深入分析让读者受益匪浅。接下来，我建议您可以尝试探讨一些应对类别不平衡问题的解决方案，比如过采样、欠采样或者集成学习等方法，这将进一步丰富您的博客内容。期待您更多精彩的创作！

大家在看

最新文章

目录

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。