优化
Goodness2020
专注数学、机器学习
展开
-
递归最小二乘法RLS
递归最小二乘法原创 2023-10-16 10:04:38 · 308 阅读 · 0 评论 -
KMP算法笔记
KMP算法原创 2023-04-20 19:52:03 · 109 阅读 · 0 评论 -
迭代优化算法小结
总结了最速下降法、牛顿法、共轭梯度法、牛顿梯度法的迭代公式。原创 2022-03-23 11:01:51 · 1538 阅读 · 0 评论 -
高斯牛顿法
一、介绍 高斯-牛顿迭代法(Gauss-Newton iteration method)是非线性回归模型中求回归参数进行最小二乘的一种迭代方法,该法使用泰勒级数展开式去近似地代替非线性回归模型,然后通过多次迭代,多次修正回归系数,使回归系数不断逼近非线性回归模型的最佳回归系数,最后使原模型的残差平方和达到最小。 有时候为了拟合数据,比如根据重投影误差求相机位姿(R,T为方程系数),常常将求解模型转化为非线性最小二乘问题。高斯牛顿法正是用于解决非线性最小二乘问题,达到数据拟...原创 2022-03-19 20:57:39 · 5014 阅读 · 3 评论 -
牛顿迭代法
一、应用方向1、求方程的根2、最优化二、牛顿法原创 2022-03-19 09:32:59 · 4109 阅读 · 0 评论 -
最速下降法
一、解决的问题最速下降法解决的问题是无约束优化问题,比如求如下最小值:其中函数二、最速梯度下降法Step1:设置初始点,给定终止误差,最大迭代次数NStep2:for k = 0 to N-1 计算 若,结束,输出;否则,继续 一维搜索,求,使得 确定最优步长的方法:三、matlab代码...原创 2022-03-17 17:18:44 · 1890 阅读 · 0 评论 -
共轭梯度法
共轭梯度法求解线性方程组:参考链接:第八章 计算方法——共轭梯度法求解线性方程组.pdf原创 2022-03-13 23:22:01 · 1559 阅读 · 0 评论 -
黑塞矩阵和雅克比矩阵
一、黑塞矩阵黑塞矩阵(Hessian Matrix)是一个多元函数的二阶偏导数构成的方阵,描述了函数的局部曲率。黑塞矩阵常用于牛顿法解决优化问题,利用黑塞矩阵可判定多元函数的极值问题。二、雅克比矩阵雅克比矩阵...原创 2022-03-21 21:18:05 · 5237 阅读 · 0 评论