线性代数基础（矩阵、范数、正交、特征值分解、奇异值分解、迹运算）

最新推荐文章于 2024-08-25 14:23:29 发布
最新推荐文章于 2024-08-25 14:23:29 发布
阅读量5.9k 收藏 23
点赞数 6
分类专栏： 应用数学基础 文章标签： 机器学习 线性代数 范数 矩阵 特征值分解
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zhq9695/article/details/84061594
版权

目录

基础概念

矩阵转置

对角矩阵

线性相关

范数

正交

特征值分解

奇异值分解

Moore-Penrose 伪逆

迹运算

行列式

如果这篇文章对你有一点小小的帮助，请给个关注喔~我会非常开心的~

基础概念

  • 标量：一个标量就是一个单独的数字
  • 向量：一个向量就是一列数字
  • 矩阵：一个矩阵就是一个二维数组
  • 张量：超过两维的数组，一个数组的元素分布在若干维坐标系中

矩阵转置

矩阵左上角到右下角的对角线被称作主对角线，以主对角线为轴的镜像称作矩阵的转置。

矩阵 A 的转置表示为 A^T ：

(A^T)_{i,j}=A_{j,i}

(AB)^T=B^TA^T

对角矩阵

diag(v) 表示一个对角元素由向量 v 中元素给定的对角矩阵。

对角矩阵除了主对角线上的元素外，其余元素都为零。

线性相关

一组向量的生成子空间，是原始向量线性组合后所能抵达的点的集合。

如果一组向量中，任意一个向量都不能表示成其他向量的线性组合，那么这组向量就是线性无关的。

如果一组向量中，存在一个向量可以表示成其他向量的线性组合，那么这种冗余被称为线性相关。

范数

范数可以衡量向量的大小，范数是将向量映射到非负值的函数，L^p 定义如下：

\left\|x\right\|_p=(\sum_{i}\left|x_i\right|^p)^{\frac{1}{p}}

L^2 的范数被称为欧几里得范数，平方 

最低0.47元/天 解锁文章
I can丶
关注
专栏目录
花书学习笔记(1) 范数、特征分解、奇异值分解、伪逆、自信息
白菜的博客
08-10 987
范数 LpL^p 范数定义为： ||x||p=(∑i|xi|p)1p||x||_p=\left(\sum_i|x_i|^p\right)^{\frac{1}{p}} 不同范数之间的特点 L2L^2 范数：在机器学习目标函数中经常出现，平方L2L^2范数常为优化问题中的正则项。缺点是在零点附近增长缓慢。 L1L^1 范数：区分零与非零元素 L0L^0 范数：非零元素的个数。在实际问题中
矩阵范数-模-特征值
weixin_43708627的博客
04-03 2289
b站视频. 包括特征值计算 CSDN链接.
用矩阵分解找寻数据“灵魂”-线性代数（3）
最新发布
2401_86636311的博客
08-25 1145
通过奇异值分解（SVD），我们可以将原始数据矩阵分解为三个矩阵的乘积，其中，对角矩阵Σ上的奇异值表示了各个特征的重要性。通过上述内容，我们将常见的特征分解（Eigenvalue Decomposition, EVD）、奇异值分解（Singular Value Decomposition, SVD）的定义、计算实例和应用进行了说明，虽然该部分内容不是解决实际问题的完整方案，但却是理解特征提取、数据降维和噪声去除等常见人工智能数据过程的核心原理，要想筑牢理论基础，必须要对上述内容了然于胸。
奇异值分解SVD，矩阵范数，函数矩阵
Ramble Over The Cloud~
01-13 2070
http://blog.sina.com.cn/s/blog_9206acb20101chc9.html
【范数】【矩阵特征值】【惩罚函数】【超参数】
勿于浮沙筑高台
11-16 4947
1、范数 范数：是定义在数学空间的一个概念，是定义在赋范线性空间的函数，满足一定条件就可以称他为范数 向量范数和矩阵范数 1.1向量范数 向量范数是衡量向量大小的一种度量方式，向量范数是一个定义域为任意线性空间向量的函数，他把一个向量v映射为一个非负实数R，满足f:v--->R 几个角度上：向量x的范数是度量从原点0到x的距离 广义上说，需要满足如下三个条件： 模型最优化时...
线性代数---迹运算
weixin_34343689的博客
01-11 838
2019独角兽企业重金招聘Python工程师标准>>> ...
动态系统与控制讲义-矩阵范数与奇异值分解
10-12
动态系统与控制领域的学习涉及众多数学工具，矩阵范数与奇异值分解是其中的重要概念，它们在处理线性代数问题、系统稳定性分析以及信号处理等方面有着广泛应用。在这份麻省理工学院的讲义中，重点讲解了矩阵范数的...
基于l1范数加权的奇异值分解的波达估计.zip
12-22
其次，奇异值分解（SVD）是线性代数中的一个基础工具，它将任意矩阵分解为三个矩阵的乘积：U * Σ * V^T。其中，U和V是正交矩阵，Σ是一个对角矩阵，其对角线上的元素是原矩阵的奇异值。SVD在许多应用中都很重要，如...
线性代数（关于矩阵的运算及各种分解的python实现）
绒绒的Routine
11-29 1610
线性代数 1  矩阵和向量积2  矩阵特征值与特征向量3  矩阵分解3.1  奇异值分解3.2  QR分解3.3  Cholesky分解4  范数和其它数字4.1  矩阵的范数4.2  方阵的行列式4.3  矩阵的秩4.4  矩阵的迹5  解方程和逆矩阵5.1 
机器学习数学基础：线性代数+微积分+概率统计+优化算法 矩阵运算助力特征提取，导数分析优化模型性能，概率评估数据分布，优化算法寻
03-20
- **关系**：奇异值和特征值在特定情况下相同，尤其是在正交矩阵和对称矩阵中。 #### 二、微积分基础 - **1.2 导数和偏导数**（已在上文提到） - **1.3 特征值和特征向量**（已在上文提到） #### 三、概率统计...
矩阵范数和奇异值分解
09-14
矩阵范数和奇异值分解,matlab作业用的 ，比较好用
求和 矩阵迹的性质__矩阵求迹运算.pdf
weixin_42709044的博客
01-17 535
_矩阵求迹运算布下 矩 阵 求 迹 运 算李 康在 量子 场论 里 , 常常需要 求出相互 作用过程 的无 极化截 面, 即对 初态粒子极化取 平。 ...
矩阵特征值分解与奇异值分解含义解析及应用
热门推荐
xiahouzuoxin
11-14 11万+
此文有一半转载自他出，主要在这进行个整理，具体内容文中都有相关的转载链接。特征值与特征向量的几何意义矩阵的乘法是什么，别只告诉我只是“前一个矩阵的行乘以后一个矩阵的列”，还会一点的可能还会说“前一个矩阵的列数等于后一个矩阵的行数才能相乘”，然而，这里却会和你说——那都是表象。矩阵乘法真正的含义是变换，我们学《线性代数》一开始就学行变换列变换，那才是线代的核心——别会了点猫腻就忘了本——对，矩阵乘法
矩阵迹运算
郭云飞的专栏
10-20 2万+
矩阵（方阵）迹运算返回的是矩阵对角元素的和： 迹运算因为很多原因而有用。若使用求和符号，有些矩阵运算很难描述，而通过矩阵乘法和迹运算符号，可以清楚地表示。例如矩阵F-范数（Frobenius norm）： 迹运算性质1： 设方阵A，有 迹运算性质2： 多个矩阵相乘得到的方阵的迹，和将这些矩阵中的最后一个挪到最前面之后相乘的迹是相同的。当然，我们需要考虑挪动
MATLAB练习7 norm 范数 矩阵分解
shuiliuwuduan的博客
03-24 528
1.创建一个矩阵，然后求出它的秩。这用到什么命令？ a=rand(5)a =    0.8147    0.0975    0.1576    0.1419    0.6557    0.9058    0.2785    0.9706    0.4218    0.0357    0.1270    0.5469    0.9572    0.9157    0.8491    0.9134  ...
数学基础之线性代数
Henry_Zhao的博客
10-22 1116
标量（scalar） 向量（vector）:一列数，即只有一列的矩阵。粗体的小写变量名称，比如 x.  可以把向量看成空间中的点，每个元素时不同坐标轴上的坐标。 矩阵（matrix）：二维数组。用加粗的大写字母表示A.  (行row,列column). 矩阵和向量相乘用到了广播。 张量（tensor）：超过两维。就是ndarray那种。[[[[]]]]   . 用A（换字体了！） 向量...
矩阵的迹(Trace)及相关性质证明
李宏宗的博客
09-19 7万+
1 定义 迹运算返回的是矩阵对角元素的和： Tr(A)=∑iAii Tr(A)=\sum_iA_{ii} Tr(A)=i∑​Aii​ 若不使用求和符号，有些矩阵运算很难描述，而通过矩阵乘法和迹运算符号可以清楚地表示。例如，迹运算提供了另一种描述矩阵Frobenius范数的方式： ∣∣A∣∣F=Tr(AAT)||A||_F=\sqrt{Tr(AA^T)}∣∣A∣∣F​=Tr(AAT)​ 2 性质 用迹运算表示表达式，我们可以使用很多有用的等式巧妙地处理表达式。例如迹运算在转置运算下是不变的： Tr(A)=Tr
矩阵的迹、性质及其推导证明
顾道长生的科研笔记
10-10 7085
文章目录1. 矩阵的迹是什么2. 矩阵的迹的性质及其证明 1. 矩阵的迹是什么 矩阵的迹是特征值的加和，也即矩阵A的主对角线元素的总和。 对于方阵 A=[a11⋯a1n⋮⋱⋮an1⋯ann]A=\left[\begin{array}{ccc}a_{11} & \cdots & a_{1 n} \\ \vdots & \ddots & \vdots \\ a_{n 1} & \cdots & a_{n n}\end{array}\right]A=⎣⎢⎡​a1
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值