![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
最优化笔记
文章平均质量分 86
Z.Q.Feng
这个作者很懒,什么都没留下…
展开
-
超定线性方程组Ax=b极小L1范数求解——MATLAB/Python实现
本文提出了多元线性模型参数估计的最小 l 1 范数解的一种新方法。该方法分为 4 步:首先将参数估计问题描述为由观测数据确定的超定线性方程组的形式;然后利用最小 l 1 残差向量将 l 1 范数最小化问题转化为一个有约束的不可微最优化问题;接下来利用基追踪方法求得最小 l 1残差向量的稀疏解;最后求解相容线性方程组得到原方程组的最小 l 1 范数解。原创 2022-04-05 13:44:48 · 3604 阅读 · 2 评论 -
稀疏优化L1范数最小化问题求解之基追踪准则(Basis Pursuit)——原理及其Python实现
文章目录一、前言二、问题重述三、构造 ℓ1\ell_1ℓ1 范数四、ℓ1\ell_1ℓ1 范数最小化问题转换为线性规划问题五、基于linprog的基追踪Python代码六、运行测试七、总结一、前言本文针对压缩重构感知中的稀疏优化问题,实现了对其 L1 范数最小化问题 的求解,文章内容较长,请耐心看完,代码部分在本文第五章。二、问题重述考虑线性方程组求解问题:Ax=b(1)Ax = b \tag{1}Ax=b(1)其中向量 x∈Rn×1, b∈Rm×1x \in R^{n\t原创 2022-04-04 23:59:18 · 5984 阅读 · 16 评论 -
Wolfe准则(数学原理及MATLAB实现)——最优化建模、算法与理论
文章目录一、前言二、Wolfe准则1. 定义2. 几何含义三、代码实现四、与Armjio准则的对比五、总结一、前言Goldstein 准则能够使得函数值充分下降,但是它可能避开了最优的函数值,如下图所示:一维函数 ϕ(α)\phi(\alpha)ϕ(α) 的最小值点并不在满足 Goldstein 准则的区间 [α1,α2][\alpha_1, \alpha_2][α1,α2] 中.为此我们引入 Armijo-Wolfe 准则,简称 Wolfe 准则。二、Wolfe准则1. 定义设 dk原创 2022-02-12 11:36:46 · 10912 阅读 · 16 评论 -
最优化建模算法理论之Goldstein准则(数学原理及MATLAB实现)
文章目录一、前言二、Goldstein准则1. 定义2. 几何含义三、代码实现四、与Armjio准则的对比五、总结一、前言为了克服 Armijo 准则的缺陷,我们需要引入其他准则来保证每一步的 αk\alpha^kαk 不会太小。既然 Armijo 准则只要求点 (α,ϕ(α))(\alpha, \phi(\alpha))(α,ϕ(α)) 必须处在某直线下方,我们也可使用相同的形式使得该点必须处在另一条直线的上方。这就是 Armijo-Goldstein 准则,简称 Goldstein 准则。原创 2022-02-10 22:57:07 · 6758 阅读 · 2 评论 -
采用Armjio非精确线搜索准则的最速下降法--MATLAB实现
采用MATLAB实现了利用用Armjio非精确线搜索准则作为迭代步长的最速下降法,求解二元函数的极小点。原创 2021-06-15 17:27:38 · 2645 阅读 · 0 评论 -
线性共轭梯度法求解正定二次函数极小点以及线性方程组的解--MATLAB源程序
本文基于线性共轭梯度算法,利用正定二次函数与线性方程组在数学形式上的等价性,通过线性方程组构建正定二次函数,再通过求解正定二次函数极小值的过程求解出线性方程组的解。其中,本文提供了正定二次函数与线性方程组在数学形式上一直性的证明,并且给出了线性共轭梯度法求解正定二次函数极小值的MATLAB源程序。原创 2021-06-11 20:58:05 · 3929 阅读 · 5 评论 -
采用Armjio非精确线搜索求步长的FR非线性共轭梯度法--MATLAB实现
多元函数的求解使我们生活中常见的一些问题的缩影,对于多元函数极小点的解法,我们可以利用最优化中的相关算法来求解,本文采用 MATLAB 程序,利用 FR 非线性共轭梯度算法求解 Rosenbrock 函数的极小点。原创 2021-06-09 12:48:40 · 3881 阅读 · 0 评论 -
最优化建模算法理论之BFGS/DFP拟牛顿方法(数学原理及MATLAB实现)
本文采用BFGS/DFP拟牛顿方法求多元函数的极小点,其中步长的选择为非精确线搜索下的 Armjio 准则,编程语言为 MATLAB 语言。原创 2021-06-08 20:50:40 · 10823 阅读 · 24 评论 -
最优化建模算法理论之Armjio准则(数学原理及MATLAB实现)
本文采用MATLAB代码解决了采用非精确线搜索Armjio准则求出函数在迭代点处的下降方向。原创 2021-06-05 01:30:54 · 15106 阅读 · 28 评论