干货 | 万字长文带你复习线性代数！（一）

欢迎关注天善智能，我们是专注于商业智能BI，人工智能AI，大数据分析与挖掘领域的垂直社区，学习，问答、求职一站式搞定！

对商业智能BI、大数据分析挖掘、机器学习，python，R等数据领域感兴趣的同学加微信：tstoutiao，邀请你进入数据爱好者交流群，数据爱好者们都在这儿。

作者：石晓文，中国人民大学信息学院在读研究生

个人公众号：小小挖掘机（ID:wAIsjwj）

目录

1、线性系统Linear System

2、Vectors、Matrices

2.1 向量Vectors

2.2 矩阵Matrix

2.3 矩阵与向量相乘

3、线性方程组有解么？

3.1 线性方程组

3.2 线性组合Linear Combination

3.3 张成的空间Span

4、线性方程组有多少个解

4.1 线性相关和线性无关

4.2 秩Rank

5、求解线性方程组

5.1 初等行变换

5.2 简化行阶梯形式Reduced Row Echelon Form

5.3 满秩

6、矩阵乘法

6.1 矩阵乘法的含义

6.2 矩阵乘法的性质

6.3 分块矩阵乘法

7、逆矩阵

7.1 什么是矩阵的逆

7.2 初等矩阵

7.3 什么矩阵是可逆的？

7.4 求解一个矩阵的逆

8、行列式

8.1 什么是行列式？

8.2 行列式的性质

8.3 行列式的计算

9、子空间

9.1 子空间

9.2 零空间

9.3 列空间和行空间

10、基Basis

10.1 什么是基Basis

10.2 基的特性

10.3 判断一个集合是否为基

10.4 三种空间的基和维度

11、坐标系

11.1 使用基表示向量

11.2 直角坐标系和其他坐标系的转换

11.3 坐标系与线性方程

12、特征值和特征向量

12.1 什么是特征值和特征向量

12.2 如何计算特征向量

12.3 检查一个标量是否为特征值

12.4 计算特征值

12.5 正定矩阵&半正定矩阵

13、对角化

13.1 可对角化

13.2 可对角化的性质

14、正交

14.1 范数和距离

14.2 点积和正交

14.3 正交补

14.4 正交投影

14.5 如何做正交投影

14.6 正交投影的应用-求解线性回归

14.7 正交基

14.8 正交矩阵

14.9 对称矩阵

15、奇异值分解

15.1 什么是奇异值分解？

1、线性系统Linear System

一个线性系统满足两个条件：Persevering Multiplication和Persevering Addition。

Persevering Multiplication

Persevering Addition

多元线性方程组是一个线性系统

2、Vectors、Matrices

2.1 向量Vectors

向量是一堆数的集合，分为列向量和行向量，本文中，向量默认是列向量，行向量用其转置表示。

向量与标量相乘，每一维都与该标量相乘：

向量相加，使用平行四边形法则：

零向量：所有维度的值都为0：

标准向量：一个维度是1，其余维度是0:

向量集：可以包含有限个或无限个向量：

Rn: 所有的n维向量组成的向量集合

2.2 矩阵Matrix

矩阵是一组向量：

如果矩阵有m行和n列，我们就说矩阵的大小为m*n，如果m=n，我们称为方阵（square matrix）。

矩阵的元素下标表示，先行后列：

矩阵与标量相乘：每一个元素分别与该标量相乘。

矩阵相加：两个矩阵的形状必须一致，同位置的元素分别相加。

零矩阵：所有元素均为0的矩阵。

单位矩阵Identity matrix：必须是方阵，对角线元素为1，其余为0，用In表示n*n的单位矩阵。

同形状的矩阵的一些运算法则：

矩阵的转置：沿左上到右下的对角线为轴进行翻转，将(i,j)位置的元素与(j,i)位置的元素互换得到的矩阵，转置的矩阵用AT表示。