机器学习中的数学基础：(1)实际应用中矩阵特征值与特征向量的几何意义

关于特征值、特征向量的讲解有很多的教程，对于这些枯燥的数学基础怎么运用到自己的实际计算机视觉实验中，是一项很重要的任务。算法的底层其实就是数学公式的各种结合与推导，有时间不是我们不能很好的去理解这些算法基础，而是没有一个很好的教程带领我们这些小白去一步步的从底层学习。写博客的目的一方面就是记录自己的总结，另一方面就是用自己的大白话去描述这些专业的术语与思想，方便自己能看懂学习。（以上纯属个人观点）

----------矩阵---------

首先，我们把矩阵比作跑步，跑步最重要的就是知道两个要素方向（朝哪个方向跑）和速度（我要跑的多快），而矩阵的特征向量就是跑步的方向，矩阵的特征值就是跑步的速度。（这个比喻只是帮助大家理解怎么由数学概念转换到实际生活运用中）

---------线性变换-------

我们知道，矩阵乘法对应了一个变换，是把任意一个向量变成另一个方向或长度都大多不同的新向量。在这个变换的过程中，原向量主要发生旋转、伸缩的变化。如果矩阵对某一个向量或某些向量只发生伸缩变换，不对这些向量产生旋转的效果，那么这些向量就称为这个矩阵的特征向量，伸缩的比例就是特征值。实际上，上述的一段话既讲了矩阵变换特征值及特征向量的几何意义（图形变换）也讲了其物理含义。物理的含义就是运动的图景：特征向量在一个矩阵的作用下作伸缩运动，伸缩的幅度由特征值确定。特征值大于1，所有属于此特征值的特征向量身形暴长；特征值大于0小于1，特征向量身形猛缩；特征值小于0，特征向量缩过了界，反方向到0点那边去了。关于特征值和特征向量，这里请注意两个亮点。这两个亮点一个是线性不变量的含义，二个是振动的谱含义。