最优化
liverpool的T9
努力学习的小萌新
展开
-
非线性优化-最优化问题之迭代下降
主要摘自《非线性优化》\color{#F00}{主要摘自《非线性优化》}主要摘自《非线性优化》\qquad最优化问题一般使用约束集XXX和目标函数fff进行表示。集合XXX中包含所有可用的决策xxx,函数f(x)f(x)f(x)将XXX的元素映射到实数集上,表示决策xxx带来的成本损失。目标是寻找x∗∈Xx^{*}\in Xx∗∈X,并满足f(x∗)≥f(x), ∀∈Xf(x^{*...原创 2019-04-15 22:18:53 · 853 阅读 · 0 评论 -
非线性优化-最优化问题之共轭梯度法
主要摘自《非线性优化》\color{#F00}{主要摘自《非线性优化》}主要摘自《非线性优化》\qquad共轭方向法的意义在于加快最速下降法的收敛速度,避免牛顿方法的大量计算。最初是为了解决minimizef(x)=12x′Qx−b′xsubject to x∈ℜnminimize\quad f(x)=\frac{1}{2}x^{'}Qx-b^{&...原创 2019-04-13 22:12:37 · 2738 阅读 · 0 评论 -
非线性优化-拉格朗日乘子法
主要摘自《非线性优化》\color{#F00}{主要摘自《非线性优化》}主要摘自《非线性优化》\qquad优化问题通常会分为有约束和无约束两类,考虑到这种结构,通过引入一些辅助变量,即拉格朗日乘子,获得一组复杂的最优化条件。等式约束优化问题\qquad考虑等式约束的优化问题minimizef(x)subject tohi(x)=0minimize\quad f(x)\\sub...原创 2019-04-22 22:33:46 · 1523 阅读 · 0 评论 -
Newtown(牛顿)方法收敛速度
\qquad设f(x)f(x)f(x)具有连续得二阶偏导数,当前得迭代点是xkx_{k}xk。f(x)f(x)f(x)在xkx_{k}xk处得TaylorTaylorTaylor展开式为(以基本NewtownNewtownNewtown法为例(α\alphaα=1))f(xk+1)=f(xk+d)=f(xk)+gkTd+12dTGkd+O(∣∣d∣∣2)f(x_{k+1})=f(x_{k}...原创 2019-07-31 21:30:49 · 5028 阅读 · 0 评论