![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
数学知识
文章平均质量分 73
xinxiangwangzhi_
这个作者很懒,什么都没留下…
展开
-
SVD--奇异值分解详细推导与证明
令AAA是m×nm \times nm×n矩阵, 那么ATAATA是对称矩阵且可以正交对角化. 令v1⋯vnv1⋯vn是RnRn的单位正交基且构成ATAATA的特征向量,λ1⋯λnλ1⋯λn是ATAATA对应的特征值,那么对1⩽i⩽n1⩽i⩽n∥Avi∥2AviTAvivi⊤A⊤Avivi⊤λivi由于vi。原创 2024-07-25 08:15:00 · 422 阅读 · 0 评论 -
优化算法--遗传算法
优化算法大致可以分为两大类:第一类是数值最优化方法:例如我们熟悉的梯度法、牛顿法、高斯牛顿法、共轭梯度法等等,主要表现为对目标函数的数值求解。另一类为启发式搜索算法,这类算法以模拟自然或者生物活动过程,通过不断采样的求解优化问题的方法,例如蚁群算法、粒子群算法、模拟退火、遗传算法等等。在日常学习中我们接触地大多数为第一类方法。当然在某些场合中偶尔会遇到启发式搜索算法,今天来聊一聊最基础地启发式搜索算法之一–遗传算法。原创 2024-03-28 16:27:28 · 399 阅读 · 0 评论 -
利用scipy求解方程组、拟合直线、圆、椭圆、抛物线
使用minimize拟合直线、圆、椭圆,使用fsolve、least_squares求解方程组,使用curve_fit拟合抛物线。minimize:需要自己构建代价函数(有时也称损失函数,目标函数等),理论上可以求解任意最优化问题。least_squares、leastsq:这两个可以用于求解最小二乘问题。curve_fit:可以拟合任意的显式函数曲线,对于隐式函数曲线不能拟合。fsolve:方程根、求解适定方程组,需要满足未知数数量等于方程数量。root:求解方程根。原创 2024-03-22 19:45:00 · 391 阅读 · 0 评论 -
m估计及其c++简单实现
m估计理论与实现原创 2024-02-25 21:34:19 · 1159 阅读 · 3 评论 -
岭回归原理
例如有几个点构成一条直线,但是我们使用二次曲线或者高阶多项式去拟合,就会导致过拟合现象。可以这么理解,大多情况下,过拟合主要是因为数据太少或者是模型过于复杂,解决方法要么增加数据,要么精简模型。参数惩罚相当于后者,它通过参数衰减(极端情况下衰减为0)的方式来使得数据中那些不重要的特征几乎不起作用,这样间接就实现了精简模型参数的效果。一般来说对于方程组求解而言:只有未知数的数量大于线性无关方程的数量时,即相对于已知信息来说要求解的参数太多了,此时会导致。不满秩的时候,其行列式为 0 ,加上。转载 2024-02-20 20:00:00 · 36 阅读 · 0 评论 -
最小二乘数值优化方法--梯度法、牛顿法、高斯牛顿法理论与c++实现
最小二乘常见求解方法F(x)n1i0∑nyi−yi2n1i0∑nhxi−yi21目的是使得目标函数最小的情况下,求得未知量。原创 2024-01-18 11:18:58 · 588 阅读 · 0 评论 -
方程数值解法--固定点迭代法与牛顿法原理与c++实现
方程数值求根的常用方法有二分法、固定点迭代法、牛顿法等。这里介绍后面两种方法。首先定义问题:对于函数yfxfx01。原创 2024-01-04 17:33:42 · 1034 阅读 · 1 评论 -
b样条原理与测试
对于贝塞尔中的基函数而言,是确定的,全局唯一的,这导致了如果控制点发生变换将会对整个贝塞尔曲线产生影响。后续代码可能会放到GitHub。《计算几何算法与实现》原创 2023-12-08 17:16:35 · 474 阅读 · 0 评论 -
贝塞尔曲线和曲面原理
给出一系列点(一般称为控制点),贝塞尔曲线可以利用这些点得到一个平滑的曲线,贝塞尔曲线不是一个表达式,而是由一系列离散的点构成的(类似移动最小二乘法)。先由控制点得到的贝塞尔曲线的点P,对点P再进行贝塞尔曲线就得到了贝塞尔曲面。这种方法通过线性插值进行递归的方法求得贝塞尔曲线上的点。原创 2023-11-07 16:33:32 · 198 阅读 · 0 评论 -
PnP问题
PnP(Perspective-n-Point)是求解3D到2D点对运动的方法,目的是求解相机坐标系相对世界坐标系的位姿。它描述了已知n个3D点的坐标(相对世界坐标系)以及这些点的像素坐标时,如何估计相机的位姿(即求解世界坐标系到相机坐标系的旋转矩阵和平移向量)。转载 2023-02-02 22:41:51 · 260 阅读 · 0 评论 -
旋转矩阵注意事项
在网上可以发现有各种旋转矩阵的形式,在使用欧拉角表示旋转矩阵时,有很多注意事项,使用欧拉角讨论旋转矩阵时,需要注意以下5点:1主动旋转还是被动旋转,主动旋转表示向量旋转,被动旋转表示坐标系旋转。主动旋转与被动旋转互为逆操作,也就是说坐标轴逆时针旋转θ\thetaθ度相当于点或向量顺时针旋转θ\thetaθ度.博客12右手系还是左手系,一般使用右手系3欧拉角的正负。一般选择逆时针为正。如果是右手系,从旋转轴正方向原点观察时,逆时针方向的旋转是正、顺时针方向的旋转是负。亦可这样描述:使用右转载 2022-05-21 20:58:05 · 853 阅读 · 0 评论 -
内旋外旋与矩阵左乘右乘
文章目录1矩阵左乘和右乘2内旋和外旋[3](https://zhuanlan.zhihu.com/p/144032401)3旋转矩阵为何左乘是相对固定坐标系,右乘是相对当前坐标系?1矩阵左乘和右乘从定义角度分析:标量乘符合交换律导致“乘”和“乘以”的概念混用的锅。对比除法,a÷b是a“除以”b或b除a。那么AB是A经过B过程转换后的结果,就该是A“(的)右(边)乘以”B,即A左乘B。同样:BA,称为A右乘B。1从几何角度理解:左乘结果是 向量旋转 之后相对于原坐标系的位置, 右乘是参考系旋转移动原创 2022-05-08 17:09:24 · 4435 阅读 · 2 评论 -
ceres求解非线性方程组
参考官网和一些文档试着写下以下非线性方程组求解除了官网文档,以下文档也值得学习:博客1博客2后方交会使用 Ceres Solver 求解非线性优化问题,主要包括以下几部分:【STEP 1】构建优化问题(ceres::Problem)【STEP 2】构建代价函数(ceres::CostFunction) 或残差(residual)【STEP 3】配置代价函数和损失函数(ceres::Problem::AddResidualBlock):通过 AddResidualBlock 添加代价函数(co原创 2022-01-08 19:32:30 · 1199 阅读 · 4 评论 -
Ubuntu18.04配置ceres库
ceres被广泛用于解决最小二乘问题,最小二乘分为线性最小二乘和非线性最小二乘,其对应的数值解决方法通常为梯度法、直接法和梯度方法、牛顿法、高斯牛顿法、LM算法,可以参考之前的博客。1下载可以在github官方下载(官方版本会和eigen3(3.3.7)有冲突,编译时会报错),我选择了按照slam14讲第二版里面的方法,因此这里在高博git下载。2安装2.1按照slam14讲打开终端输入sudo apt-get install liblapack-dev libsuitespars原创 2021-01-22 12:05:41 · 974 阅读 · 0 评论 -
最小割(min cut)算法
最小割(min cut)算法0引言图像分割可以看作不同的划分问题,而图可以进行不同的划分,将图像映射为图后,分割问题就可以用图论方法(如:最小割)求解.这只是直观地解释,具体如何将图像分割转化为求图的最小割呢?本文的分析思路是首先将图像分割问题看作能量函数最小化问题,当能量函数最小时,实现最优图像分割.然后,对给定的能量函数定义一个图,让图的割集的代价正好等于给定的能量函数.最后,通过求图的最小割(即图割),实现给定能量函数的最小化,也就实现了最优图像分割.关于图像分割如何表示为能量函数最小化,可参考相原创 2020-09-05 17:31:07 · 13013 阅读 · 0 评论 -
豪斯多夫距离(集合之间的距离度量)
Hausdorff距离介绍在数学中,Hausdorff距离或Hausdorff度量,也称为Pompeiu-Hausdorff距离,是度量空间中两个子集之间的距离。它将度量空间的非空子集本身转化为度量空间。非正式地说,如果一个集合的每个点都接近另一个集合的某个点,那么两个集合在Hausdorff距离上是接近的。Hausdorff距离是指对手在两组中的一组中选择一个点,然后必须从那里到达另一组的最长距离。换句话说,它是从一个集合中的一个点到另一个集合中最近的点的所有距离中最大的一个。基本定义以费利克斯翻译 2020-07-16 17:07:51 · 24773 阅读 · 4 评论 -
香农熵
介绍Shannon熵是Claude E.Shannon在1948年的论文《通信的数学理论》中提出的。一般来说,熵指的是无序或不确定性。在信息论中,系统是由发射机、信道和接收机来组成的。发射器产生发送的信息。通道以某种方式修改消息。接收方试图推断发送了哪条消息。在这种情况下,熵(更具体地说,香农熵)是每个信息中包含的信息的期望值(平均值)。在更规范的意义上来讲,将信息定义为可能事件或消息的概率分布对数的负值。每个事件的信息量构成一个随机变量,其期望值或平均值为香农熵。熵的单位是shannon、nat或原创 2020-07-16 16:27:13 · 8491 阅读 · 4 评论 -
泊松分布
写在前面的参考文献:123[4]Bertsekas.概率导论[M]**泊松分布**在概率论和统计学中,泊松分布以法国数学家西门·丹尼斯·泊松命名,是一种离散概率分布,表示给定数量的事件在固定的时间间隔和/或空间内发生的概率,如果这些事件以已知的平均速率发生,并且与上一事件发生后的时间无关。泊松分布也可用于其他指定间隔内的事件数例如距离、面积或体积。例如,一个人在记录每天收到的邮件数量时可能会注意到他们平均每天收到4封信。如果接收任何特定邮件不影响未来邮件的到达时间,即,如果来自不同来源的邮原创 2020-07-16 10:38:31 · 11382 阅读 · 0 评论 -
相似度度量
相似度度量123转载 2020-07-10 16:50:43 · 626 阅读 · 0 评论 -
聚类算法
层次聚类图解kmean、GMM、层次聚类聚类算法流程、以及评价准则原创 2019-12-25 17:32:28 · 170 阅读 · 0 评论 -
透视变换(perspective transformation)和射影(投影)变换(projective transformation)
透视变换(perspective transformation)和射影(投影)变换(projective transformation)0几点说明投影和变换的区别。投影分为:平行投影或者正射投影(parallel projection )和透视投影(perspective projection)。平行投影对应于带有假想视点的透视投影;也就是说,相机位于离物体无限远的地方,并且具有无限焦距。...原创 2019-12-03 15:19:27 · 8238 阅读 · 6 评论 -
粒子群优化算法
123转载 2019-10-18 09:16:35 · 147 阅读 · 0 评论 -
最优化理论
优化问题很重要,对于一个问题,我们总是想获取最优解。我们能选择一定的参数,根据参数的重要性设权重,再根据参数的关系,最终简化成一个优化函数。数值优化视频:B站,吴立德老师常用的非线性优化方法:主要分为两个领域:一个是进化计算的领域,一个是数学优化领域,这两个领域都是解优化问题的。进化计算主要有:模拟退火算法、粒子群优化算法、遗传算法和蚁群优化算法数学优化领域主要有:高斯牛顿法、梯度下降法...原创 2019-09-05 18:45:11 · 266 阅读 · 0 评论 -
极大似然估计,极大后验估计,最小二乘估计
先说结论1:当估计量服从正态分布时,最小二乘原理可以用数理统计中的最大似然估计来解释,两种估计准则的估值相同。2:极大后验估计是从贝叶斯统计出发,结合贝叶斯公式可以推导出广义最小二乘,二者在数值上计算等价。推导,见教程...原创 2019-07-27 20:25:14 · 417 阅读 · 0 评论 -
PCA
https://blog.csdn.net/hustqb/article/details/78394058#commentBox转载 2019-05-15 19:44:50 · 87 阅读 · 0 评论 -
距离
关于抽象意义上的距离,范数除了参考相关教材,推荐网易公开课王维克老师的视频–数学之旅。日常中距离讨论的是点与点之间的关系,或者点与集合之间的关系,主要有欧氏距离、马氏距离、明氏距离等。欧式距离:d(x,y)=|X-Y|马氏距离考虑了概率上的因素:点x与集合G的马氏距离:d(x,G)=sqrt( (x-μ)'Σ^(-1)(x-μ) )两个点之间的马氏距离d(x,y)=sqrt( (x...原创 2019-07-21 20:11:50 · 157 阅读 · 0 评论