本文介绍了矩阵与线性代数的基础知识，包括奇异值分解（SVD）、代数余子式、范德蒙行列式、矩阵乘法、秩、正交阵、特征值与特征向量等概念。通过这些基础知识，探讨它们在机器学习中的重要角色，如线性变换、合同变换和正定阵的应用。
矩阵
线性代数是可用的
前言：SVD：奇异值分解
奇异值分解是一种重要的矩阵分解方法，可以看做对称仿真在任意矩阵上的推广。假设一个A矩阵是一个m×n阶的实矩阵，则存在一个分解使得：
A m × n = U m × m ∑ m × n V n × n T A_{m\times n}=U_{m\times m}\sum\nolimits_{m\times n}V_{n\times n}^T Am×n=Um×m∑m×nVn×nT
我们通常将奇异值由大到小排列，这样 ∑ \sum ∑就能由A唯一确定了。
与特征值、特征向量的概念相对的：
- ∑ \sum ∑对角线上的元素称为矩阵A的奇异值
- U的第i列称为A的关于 σ i \sigma_i σi的左奇异向量
- V的第i列称为A的关于 σ i \sigma_i σi的右奇异向量
- U和V都为单位正交矩阵： U T U = I U^TU=I UTU=I， V T V = I V^TV=I VTV=I
代数余子式，余子式，余子项
将一个n阶行列式A中，第（i,j）个元素所在的第i行，第j列划去后，留下的n-1阶仿真的行列式叫做 a i j a_{ij} aij的余子式计作 M i j M_{ij} Mij。
代数余子式： A i j = ( − 1 ) i +
最低0.47元/天 解锁文章
2万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
