凸优化第五章对偶 5.3几何解释

最新推荐文章于 2023-11-30 16:13:03 发布
最新推荐文章于 2023-11-30 16:13:03 发布
阅读量1.3k 收藏 6
点赞数 1
分类专栏： 凸优化
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/wangchy29/article/details/86902873
版权
本文介绍了凸优化中对偶函数的几何解释，特别是在只有一个不等式约束的情况下。通过对偶函数的定义，展示了如何在约束函数形成的集合G中寻找最小值。上境图形式进一步阐述了强对偶性的条件，即存在非竖直支撑超平面的边界点，这在凸问题中通常成立。
摘要由CSDN通过智能技术生成

5.3几何解释

  1. 对偶函数的解释
  2. 上境图

对偶函数的解释

简单考虑只有一个不等式约束f_1(x)\leq 0

定义

G =\left \{ (f_1(x),f_0(x))|x\in D \right \}

已知对偶函数：

g(\lambda )=\underset{(u,t)\in G}{inf}(t+\lambda u)=\underset{(u,t)\in G}{inf}(\lambda ,1)^T(u,t)

所有对偶函数相当于在G上极小化(\lambda ,1)^T(u,t)，得到斜率为-\lambda的支撑超平面。

下图，t表示

最低0.47元/天 解锁文章
「已注销」
关注
专栏目录
【机器学习】拉格朗日对偶性
LJR的博客
11-26 1029
lagrange 拉格朗日 对偶 无约束 等式约束 不等式约束 凸优化 凸集 凸问题 凸函数 凹函数 二次规划 几何意义 原始问题 Primal Dual 强对偶 弱对偶 KKT条件 Slater条件 对偶间隙 最优解 可行域 拉格朗日乘数法 拉格朗日乘子
对偶问题几何解释
mucai1的专栏
09-20 3121
一直以来对对偶问题的几何解释比较懵逼 最近看到一张PPT，对理解这个问题有一些帮助，搬过来了假设我们要求解原问题 minf(x),s.t.g(x)<=0,x∈Xmin f(x), s.t. g(x)<=0, x \in X定义如下集合： G=(y,z):y=g(x),z=f(x) for some x∈XG={(y,z):y=g(x),z=f(x) \ for\ some\ x \in X
通俗讲解支持向量机SVM（二）另辟蹊径！对偶性的几何解释
试问道几许
04-08 1万+
避开繁琐的公式推导，带你用几何的方式轻松理解SVM的对偶性，这次我要你觉得！
凸优化--强弱对偶性的几何解释
muse的专栏
11-17 2207
凸优化–强弱对偶性的几何解释一般的优化问题模型minf0(x)s.t.fi≤0,i=1,⋯,mhi=0,i=1,⋯,p\bf{min} f_0(x) \\ \bf{s.t.} f_i \leq 0,i=1,\cdots,m\\h_i=0,i=1,\cdots,p定义约束函数和目标函数所取值的集合G\mathcal{G}G={(f1(x),⋯,fm(x),h1(x),⋯,hp(x),f0(x))∈Rm
svm通俗讲解_通俗讲解支持向量机SVM（二）另辟蹊径！对偶性的几何解释
weixin_27379781的博客
12-24 205
当你的才华还撑不起你的野心时，你应该静下心去学习 。前言关于支持向量机(Support Vector Machine, SVM)的强对偶关系证明，我在网上浏览过各种版本，绝大部分是比较繁琐的公式推导，这显然不利于读者理解。我们可以尝试切换思路，用几何描述的方法比较直观清晰的推出结论，相信看完这篇文章你一定能豁然开朗！正文为了直观解释强对偶关系，我们把原问题限定在二维平面上(多维同理)，所以我...
手推支持向量机06-约束优化问题-对偶关系的几何解释
敲代码的乔帮主
08-09 426
发送到
凸优化，优化处理
10-16
几何规划是一种特殊的凸优化问题，它适用于特定类型的目标函数和约束条件。CVX同样支持几何规划问题的建模和求解。 ### 8. 求解器 #### 8.1 支持的求解器 CVX支持多种求解器，包括开源求解器和商业求解器。用户...
最优化方法课件-解可新.ppt
12-19
解可新，大家一起学习，一起进步 第1章 最优化问题概述 1.1 最优化问题的数学模型与基本概念 1.2 最优化问题的一般算法 1.3 二维最优化问题的几何解释 1.4 一维搜索 习题第2章 线性规划 2.1 凸集与凸函数 ...
"三维视觉中的凸松弛与非最小问题
10233三维视觉中一致性和非最小问题的凸松弛Thomas Probst，Danda Pani Paudel，Ajad Chhatkuli，Luc VanGool计算机视觉实验室，苏黎世联邦理工学院，瑞士摘要在本文中，我们制定了一个通用的非最小求解器使用现有的...
UA SIE545 优化理论基础4 对偶理论简介5 对偶的几何解释
一个不愿透露姓名的博客
11-26 289
UA SIE545 优化理论基础4 对偶理论简介5 对偶的几何解释 前四讲我们建立了弱对偶与强对偶的概念与理论，这一讲我们试图从直观上理解对偶。 强对偶的几何解释 考虑下面的优化 min⁡(x−2)2s.t.x≥0\min (x-2)^2 \\ s.t. x \ge 0min(x−2)2s.t.x≥0 从几何上，这个优化想在数轴的非负半轴找一个距离x=2x=2x=2最近的点。下面我们写出对偶问题， θ(u)=inf⁡{(x−2)2−ux:x≥0}=−(u+2)2+4\theta(u)=\inf \{(x-
凸优化 -- 强对偶与弱对偶及几何解释和鞍点解释
王尚权 qq:2515162716
04-04 1228
回顾一阶必要性条件（KKT）成立的条件时ICLQ条件成立，即线性可行方性与序列可行方向相同，这样才可以用一阶泰勒条件才能成立。即线性可行方向能够反应其的几何结构 D的相对内部：简单来说就是将边缘去掉 鞍点解释 鞍点定义 ...
范数的对偶以及几何性质
weixin_30436891的博客
12-24 1921
将学习到什么 介绍范数的单位球以及对偶定理. 范数的单位球 范数的基本几何特征是它的单位球，透过它可以深入洞察范数的性质.   定义 1 ： 设 \(\lVert \cdot \rVert\) 是实或者复向量空间 \(V\) 上的一个范数，\(x\) 是 \(V\) 的一个点，又设给定 \(r>0\). 以 \(x\) 为中心、\(r\) 为半径的球定义为集合 \begin{a...
凸函数和上境图
加菲猫的博客
07-23 1万+
上一篇：凸函数总结 函数的图像定义为 ， 它是空间的一个子集。函数的上境图定义为 ，它也是空间的一个子集。 定理函数是凸函数当且仅当是凸集。 证明： (必要性)显然成立，证明省略。 (充分性)假设，显然有，又由于是凸集 所以有即得 成立，由于的任意性可知是凸函数。 亚图 ， 类似上述定理有函数是凹函数当且仅当其亚图是凸集。 ...
凸优化第二章——凸函数
最新发布
qq_53766473的博客
11-30 1175
如果函数fff的定义域和所有下水平集都是凸集，那么fff是拟凸函数如果函数−f-f−f是拟凸函数，那么fff是拟凹函数如果函数fff既是拟凸函数又是拟凹函数（即fff的定义域和所有水平集x∈domf∣fxαx∈domf∣fxα都是凸集），那么fff是拟线性函数函数fff是对数凸的⟺⟺对于所有x∈domfx∈domf有fx0f(x)>0fx0且logflog\ flog。
优化理论（三）凸函数、拟凸函数和保凸运算
热门推荐
goodluckcwl的专栏
03-23 1万+
这一节主要学习凸函数的定义以及性质。了解保凸运算，以及上镜图与下水平集等。这些基础知识看似零乱，然而却是后面的基础。特别是，在实际应用中如果我们能把一个问题转化为凸优化问题，是非常好的一步。而能够这样做的前提，是知道基本的函数的凸性以及有哪些保凸运算。上镜图有助于我们从集合的角度理解这个函数为什么是凸的（集合的保凸运算）；水平集是以函数的形式表示集合，类似于等高线，在历史上是重要的方法。这里我们通...
多分类下的ROC曲线和AUC
蔡军帅
08-07 1万+
本文主要介绍一下多分类下的ROC曲线绘制和AUC计算，并以鸢尾花数据为例，简单用python进行一下说明。如果对ROC和AUC二分类下的概念不是很了解，可以先参考下这篇文章：http://blog.csdn.net/ye1215172385/article/details/79448575 由于ROC曲线是针对二分类的情况，对于多分类问题，ROC曲线的获取主要有两...
示性函数、共轭函数、对偶范数、共轭
Anne033的博客
07-21 1万+
示性函数(Indicator function) 共轭函数 对偶范数 几个常用公式
多分类预估和auc评估
baymax_007的博客
11-11 7322
经典CTR预估场景，主要对是否曝光/点击（0/1）进行二分类。最近遇到多分类（类别之间互斥）问题，踩了一些坑，总结和整理下，希望能够加深对多分类理解和思考。 区别 二分类 多分类 标签 0/1 c类，如c=10:[0,1,0,0,0,0,0,0,0,0] 损失函数 交叉熵 多分类交叉熵 预估输出 (0,1)值 c维向量，如c=10:[0.1,0.1,0.2,0.2,0.1,0.1,0.1,0.2,0.2,0.1] auc评估 随机.
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值