机器学习数学基础-线代必备上

 

1、行列式

2、代数余子式

余子式:一个n阶方阵行列式A中,把元素a_{ij}所在的i行j列的元素删除,剩下的n-1阶方阵的行列式叫做元素a_{ij}的余子式,记作M_{ij}

代数余子式:A_{ij}=(-1)^{i+j}M_{ij}

3、伴随矩阵

对于n*n的方阵A,任意元素a_{ij}都有其代数余子式A_{ij},则由A_{ij}构成的矩阵称为矩阵A的伴随矩阵A^{*}

注意A_{ij}位于A^{*}的第j行第i列。

4、逆矩阵

4.1概念

A\cdot A^{*}=|A|\cdot I

A^{-1}=A^{*}/|A|

4.2求解

(1)AA^{-1}=E

(2)A^{-1}=A^{*}/|A|

5、矩阵运算

5.1加减法

矩阵结构相同的矩阵,各位置的元素直接加减获得新的矩阵

5.2乘法

(1)矩阵乘以常量,只需将矩阵内各元素都乘以常量即可。

(2)m行n列的矩阵A只能乘以n行p列的矩阵B,得到新的m行p列的矩阵C,新矩阵的元素根据位置C_{mp},分别由A矩阵的第m行向量乘以B矩阵的第j列向量。

(3)矩阵的乘法不满足交换律,不满足消除律,满足结合律和乘法对加法的分配律。

 

6、矩阵转置

将m*n的矩阵,行与列交换得到的矩阵便是原矩阵的转置矩阵。

7、特殊矩阵

(1)零矩阵,所有元素都等于零,也可以记为0

(2)单位矩阵,对角线上都为1,其他元素都为0

(3)三角矩阵,主对角线上(下)的元素全为零

(4)对称矩阵,和倒置矩阵相同的矩阵,成为对称矩阵

8、矩阵的秩

讲矩阵的秩要引入矩阵的子式的概念。在mxn矩阵A中,任取k行与k列,位于这些行列交叉处的k^{2}个元素,不改变他们在A中所处位置而得到的k阶行列式,成为矩阵的k阶子式。

如果在矩阵A中有不等于零的r阶子式D,且所有r+1阶子式(如果存在)全等于零,那么D称为A 的最高阶非零子式,r就是矩阵A的秩,记为R(A),规定零矩阵的秩为0。

矩阵的秩R(A)就是A的非零子式的最高阶。

可逆矩阵又成满秩矩阵。

对于n元线性方程组Ax=b:(1)无解的充要条件是R(A)<R(A,b);(2)唯一解的充要条件是R(A)=R(A,b)=n;(3)无限多解的充要条件是R(A)=R(A,b)<n

 

9、特征值特征向量

设A为n阶矩阵,如果数\lambda和n维非零列向量x使关系式Ax=\lambda x成立,则称\lambda为A的特征值,非零向量x为A的对应于特征值\lambda的特征向量。也可以写作(A-\lambda E)x=0

特征值的求解,x非零,则A-\lambda E的行列式肯定为零。代入和进行求解。

一个矩阵可以有多个特征值,每个特征值对应一个特征向量,如果特征值各不相等,则特征向量线性无关。

设A为n阶对称矩阵,则必有正交阵P,使得P^{-1}AP=P^{T}AP=\Lambda\Lambda为以A的n个特征值为对角元的对角阵,该变换成为合同变换,A与\Lambda互为合同矩阵。

10、正交基

10.1向量的内积

\alpha =(a_{1},a_{2},...,a_{n})^{T}\beta =(b_{1},b_{2},...,b_{n})^{T},向量α与向量β的内积,(\alpha ,\beta )=a_{1}b_{1}+a_{2}b_{2}+...+a_{n}b_{n}

10.2向量内积的性质

(1) (\alpha ,\beta )=(\beta ,\alpha ) \\ (2) (\lambda \alpha ,\beta )=(\alpha ,\lambda \beta )=\lambda (\alpha ,\beta )\\ (3)(\alpha +\beta ,\gamma )=(\alpha ,\gamma )+(\beta ,\gamma ) \\(4)(\alpha ,\alpha )\geq 0 and == is true,\Leftrightarrow \alpha =0

||\alpha ||=\sqrt{(\alpha ,\alpha )}=\sqrt{\alpha _{1}^{2}+\alpha _{2}^{2}+...+\alpha _{n}^{2}}称为向量α的长度或模,记作||α||

当||α||=1时,称α为单位向量。

10.3向量正交

(\alpha ,\beta )=0时,称向量α与向量β正交。

零向量与所有向量正交。

 

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
学习算法需要掌握一些数学基础知识,以下是一些常见的数学概念和技能,对于学习算法会有帮助: 1. 线性代数:线性代数是研究向量空间和线性映射的数学分支。了解向量、矩阵、矩阵运算、线性方程组、特征值和特征向量等概念对于理解和实现许多机器学习算法至关重要。 2. 概率与统计:概率和统计是机器学习中的核心概念。掌握概率理论、条件概率、贝叶斯定理、随机变量、概率分布、统计推断等内容,能够帮助理解概率模型、参数估计、假设检验等统计相关的算法。 3. 微积分:微积分是研究函数、极限、导数和积分的数学分支。了解导数、偏导数、梯度、极值等概念对于理解优化算法(如梯度下降)和深度学习中的反向传播算法非常重要。 4. 离散数学:离散数学是研究离散结构(如集合、图论、逻辑等)的数学分支。了解离散数学的概念和技巧对于理解算法的复杂度分析、图算法、搜索算法等非常有帮助。 此外,编程能力也是学习算法的关键技能。熟悉至少一种编程语言(如Python、Java、C++等)以及基本的数据结构和算法(如数组、链表、排序、查找等)也是必备的。 需要注意的是,数学基础只是学习算法的一部分,实践和动手能力同样重要。通过实际应用和实现算法,才能真正理解和掌握它们的原理和应用。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值