深度学习之二——相关数学基础（线性代数理论）

1.线性代数：线性代数式事物状态的状态变化的规则

2.线性代数中的几个概念

2.1 标量、向量、矩阵、张量

          标量：就是单纯的一个个数，量的表示，如;1,2,3;

          向量：标量组成的“数组”，如：[1,2,3];

          矩阵：可以当成一张数表，行向量和列向量的组合，可以说是多条向量组合而成，e：[[1,2,3],[4,5,6]]

          张量：维度高于二的数表。

2.2 向量空间

           向量空间又称线性空间，是线性代数的中心内容和基本概念之一，又可理解为向量存储的集合。

          （1）线性无关：我们在研究过程中需要一组相互无关变量作为特征数据来描述网络状态的变化；

          （2）张成：一组向量通过线性组合所能形成的子空间（可以理解为降维）；

          （3）基底：基（也称为基底）是描述、刻画向量空间的基本工具。向量空间的基是它的一个特殊的子集，基的元素称为基向量；

          （4）维度：线性空间自由变量的个数。

2.3 矩阵中几个概念

          （1）范数:在深度学习中用范数来衡量向量的大小；

          （2）特殊矩阵；

          （3）矩阵的描述：静态的（状态）

                                            动态的（变化）

          （4）线性变化矩阵：可以看似是数据降维的过程；

2.4复数

         复数在深度学习中应用广泛，我们过多的考虑实数空间却没考虑虚数所带来的意义，这可以理解为人的思维空间，将人的意识和思维加入到神经网络之中。