深度学习 DEEP LEARNING 学习笔记（一）

• 在CSDN潜水多年，终于有勇气在这里留下一些来过的痕迹。
• 深度学习本书的作者是伊恩·古德费洛，约书亚·本吉奥，亚伦·库维尔
• 如果觉得我的笔记有不合适的地方，欢迎留言。

学习笔记（一）

关键字：1.标量、向量、矩阵和张量2.矩阵和向量相乘 3.单位矩阵和逆矩阵

1. 标量、向量、矩阵和张量
   （1） 标量：一个标量就是一个单独的数，用斜体小写的变量名称来表示标量。在介绍时，要明确是哪种类型的数。eg：令s∈R表示一条线的斜率。
   （2）向量：一个向量是一列数。用粗体小写的变量名称来表示向量。eg：向量x的第一个元素x1。在介绍时，也要明确是哪种类型的数。向量中的数是有序排列的。通过索引，可以确定每个单独的数。如果每个元素都属于R，并且向量有n个元素，那么该向量属于实数集R的n次笛卡尔积构成的集合，记为R的n次方。用-表示集合的补集中的索引。eg：表示x中除x1外是所有元素。

   （3）矩阵：矩阵是一个二维数组，两个索引确定一个元素。用粗体大写的变量名称来表示矩阵，eg：A。用：表示水平坐标，以表示垂直坐标i中的所有元素。eg：表示第i行。表示第i列
   （4）张量：一般的，一个数组中的元素分布在若干维坐标的规则网格中，称之为张量，eg：A。
   （5）转置：
   矩阵：把矩阵***A***的转置记为，定义如下：
   向量：把向量看作只有一列的矩阵，向量的转置可以看作只有一行的矩阵。
   标量：标量可以看作只有一个元素的矩阵。所以标量的转置为它本身。

2. 矩阵和向量相乘
   运算有以下
   （1）矩阵+矩阵，两矩阵形状一样，就可以相加。对应位置元素相加。eg：
   （2）标量+矩阵，标量x矩阵，将标量与矩阵的每个元素相加或相乘。eg：
   （3）矩阵+向量，向量和矩阵的每一行相加。eg：
   （4）矩阵乘积，矩阵x矩阵，矩阵***A***的列数必须等于矩阵***B***的行数。eg：满足分配律，结合律
   （5）元素对应乘积：两矩阵对应位置元素的乘积。
   （6）点积：两个相同维数的向量***x***和***y***的点积。满足交换律

3. 单位矩阵和逆矩阵
   （1）任意向量和单位矩阵相乘都不会发生变化。单位矩阵是方阵，主对角线都是1，其余位置都是0。
   （2）矩阵***A***的矩阵逆记为逆矩阵的定义满足如下条件：