weixin_63432632的博客

一个集合 $C \subseteq \mathbb{R}^n $是凸集，如果对任意 $ x, y \in C $ 都有。

Algorithms I: First-order methods1.Gradient descent1.梯度下降考虑无约束的、平滑的凸优化问题：min⁡xf(x)\min_x f(x)xmin​f(x)即，fff 是凸的且可微的，并且定义域 dom(f)=Rndom(f) = \mathbb{R}^ndom(f)=Rn。最优目标值用 f∗=min⁡xf(x)f^* = \min_x f(x)f∗=minx​f(x) 表示，解为 x∗x^*x∗。梯度下降法：选择初始点 x(0)∈Rnx^{(

在凸优化问题中，我们希望找到目标函数的一个下界B，使得B≤minx​fx。xymin​xysubject toxy≥2xy≥0我们可以直接得出下界B2，因为xy在约束边界上的最小值是2。xymin​x3ysubject toxy≥2xy≥0通过不等式变换，我们可以得出相同的下界 $ B = 2 $。一般情况下，目标函数形式为pxqy，下界可以表示为B2a，其中abc≥0，且abp和a。