2、数据分析线代篇

有监督的回归的一个基础：

单位矩阵：乘任何矩阵都是其任何矩阵本身。

阶梯矩阵：主对角线的一边所有向量全为零，从而其行列式为主对角线所有向量相乘

齐次线性方程组：常数项是右边那个0，其他带x的都不是常数项

矩阵和矩阵的乘法：一列的一个数只能乘一行的一个数

Am×nx=0只有零解 <=> r(A)=n • 特别地，A是n×n时，则Am×nx=0只有零解 <=> |A|≠0 • Am×nx=0有非零解 <=> r(A) |A|=0 • 若m

有没有零解指的是x的向量是不是都等0

线性相关就是成倍数关系的向量

无关就是没倍数关系

Ax=0的基础解系（能够用它的线性组合表示出该方程组的任意一组解） • ①ξ1，ξ2，…，ξt 是Ax=0的解； • ②ξ1，ξ2，…，ξt 线性无关； • ③ξ1，ξ2，…，ξt 可以表示Ax=0的任一解。或者证明出①②后，再证出t=n-r(A) • 则称ξ1，ξ2，…，ξt 是Ax=0的基础解系

t代表x使A的两组向量无关所得的解，有关的解已经被忽略不算进t中

A-n阶矩阵，λ是一个数，α是n维非零列向量，若 • 则称λ是A的特征值，α是A的对应于特征值λ的特征向量 矩阵进阶-特征值特征向量 = ( ≠ 0) = ⇔ ( − ) = 0 ⇔ ( − ) = 0有非零解 由 − = 0, 得特征值 由( − ) = 0, 得特征向量

用于图片压缩，把矩阵用一个数字代表，不过要带上n维非零列向量

这里的’‘’‘入’‘’‘‘这个代表矩阵的数字是特征值，a这个n维非零列向量就是特征向量

数字和向量直接代表不了矩阵，所以要再乘上一个单位矩阵

等价代换后 |入E-A|=0就可以知道特征值

​ |入E-A|α=0就可以知道特征向量

目的就是节省内存，深度学习防止组合爆炸

求特征值：

得到多个解，其中运用阶梯矩阵的规律

求特征向量：

用每个特征值代入一次|入E-A|α=0，得到一个，所有类型的特征值的特征向量都可求得

由齐次线性方程组，Ax = 0可知，每一行相加为0，所以在这里特征向量每一行也为0从而解得每一行的特征向量，其中x1，x2，x3的解组成一个特征向量，如果只求得其中两个解，第三个解没有在方程中得到，那么那个变量是自由变量，可以设任何值，但是在其他解都为0的时候，它不能为0。（因为‘’‘入‘’’有数值，所以这里α有非零解）

因为‘’‘’入‘’‘’有多个值，所以和E（单位矩阵）一起相乘的时候，可以用Σ表示，叫做特征值矩阵

又因为，特征变量有多个解，所以有多列数据，用W表示，

‘’‘入’‘’和E变成了矩阵，所以要和W换位置，

数据降维：

能增加运算速度，防止过拟合