【带你读】花书《深度学习》导读 第二章 线性代数基础 上

线性代数是深度学习的数学基础，学习深度学习之前必须掌握线性代数的相关知识。线性代数的内容是抽象的，本文旨在用直观易懂的语言解释线性代数中的相关概念。同时，学习不仅是记忆，而且需要思考。我在写作时会适时插入一些思考导向的内容，帮助大家更深的掌握概念。
如果需要深入学习线性代数，这里推荐：

• 线性代数机器应用(David C. Lay, 2007)
• The Matrix Cookbook(Petersen, 2012)

---

Chapter 2 线性代数基础

1 张量

张量(tensor)是神经网络运算图中传递的基本运算单位。张量中的元素分布在若干维度的空间中，常见张量类型为：

• 0D（维）张量：标量。一个标量就是一个单独的数。常用斜体小写字母表示，如$b$。
• 1D张量：向量。一个向量是一组有序的数，其中的每个元素通过一个索引（代表在向量中的次序）确定。通常用斜体加粗的小写字母表示，如：
  $$\mathbf{x}=\left[\begin{array}{c}{x}_1\\ x_2\\ x_3\\ x_4\end{array}\right]$$
• 2D张量：矩阵。矩阵是一个二维数组，其中的每个元素通过两个索引（行,列）确定。一般用粗体大写字母表示，表示，如：
  A = [ x 1 , 1 x 1 , 2