矩阵相关
奔跑着的孩子
认知无线电频谱感知与资源分配,机器学习
展开
-
正交向量与正交子空间
在前面文章《矩阵的四个基本子空间》中提到: 一个秩为r,m*n的矩阵A中,其行空间和列空间的维数为r,零空间和左零空间的维数分别为n-r,m-r,并且有行空间与零空间正交,列空间与左零空间正交。 “掌握上面的这个结论就掌握了线性代数的半壁江山!”,MIT教授如是说。那么什么是正交子空间呢?我们首先从我们熟悉的正交向量说起。1、正交向量转载 2017-07-22 12:33:00 · 2172 阅读 · 0 评论 -
正交投影
我们在初中就应该学过投影,那么什么是投影呢?形象点说,就是将你需要投影的东西上的每一点向你要投影的平面作垂线,垂线与平面的交点的集合就是你的投影。注意这里我们的投影是向量的投影,几何的投影(并不一定是垂直投影的)可见度娘百科。同样的,我们从简单的二维投影来开始讨论。 1、二维投影上图表示的是,向量b在向量a上的投影。显然有如下表达式:其中,P为投影矩阵,由P的表转载 2017-07-22 12:41:37 · 5322 阅读 · 0 评论 -
最小二乘与投影矩阵
前一篇文章《正交投影》中我们讲述了正交投影,现在我们来从正交投影的角度来看看我们熟悉的最小二乘法。我记得最早知道最小二乘法是在大一上高数课的时候,我们首先回顾一下什么是最小二乘法。1、最小二乘法 最近机器学习比较火,机器学习中的许多算法都是对信息进行分类,比如说支持向量机就是根据已知信息来分类,神经网络可以找到输入输出的关系(当然,不能给出具体的数学表达式),这两种算法都能找转载 2017-07-22 12:48:17 · 1179 阅读 · 0 评论 -
Hessian Matrix(海森矩阵)
Hessian Matrix,译作黑塞矩阵、海森矩阵、海瑟矩阵、海塞矩阵等。是一个多元函数的二阶偏导数构成的方阵,描述了函数的局部曲率。Hessian Matrix最早于19世纪由德国数学家Ludwig Otto Hesse提出,并以其名字命名。Hessian Matrix常用于牛顿法解决优化问题,利用Hessian Matrix可判定多元函数的极值问题。在工程实际问题的优化设计中,所列的...转载 2019-04-01 17:20:57 · 4661 阅读 · 0 评论