【吴恩达机器学习笔记】第三章 线性代数回顾

搜索微信公众号:‘AI-ming3526’或者’计算机视觉这件小事’ 获取更多人工智能、机器学习干货
csdn：https://blog.csdn.net/qq_36645271
github：https://github.com/aimi-cn/AILearners

第三章 线性代数回顾

3.1 矩阵和向量

• 矩阵(matrix)：由数字组成的举行列阵，并写在方括号中。
• 矩阵的维数(dimension of matrix)：矩阵的行数乘列数

例如：
$$A=\left[\begin{array}{cc}1402& 191\\ 1371& 821\\ 949& 1437\\ 1147& 1448\end{array}\right]$$
$A$是一个维度为$4\times 2$维的矩阵。$A_{ij}$中下标$i$和$j$表示的是第$i$行，第$j$列所对应的那个项，如$A_{11}=1402$。矩阵提供了一种很好的方式让你快速的整理、索引和访问大量数据。

• 向量(vector)：一个向量是一种特殊的矩阵，它是一种只有一列的矩阵

例如：
$$y=\left[\begin{array}{c}460\\ 232\\ 315\\ 178\end{array}\right]$$
$y$是一个4维向量，意味着y是一个含有四个元素的向量。使用符号$y_i$来表示向量$y$中第$i$个元素，如$y_1=460$。

就像大多数编程语言中的数组一样，矩阵和向量的下标也可以从0开始表示。

事实上在大部分数学表达式中，下标从1开始的情况比较常见，而对于很多机器学习的应用问题来说，下标从0开始为我们提供了一个更方便的符号表达。

通常在书写矩阵和向量时，大多数人会使用大写字母来表示矩阵，用小写字母表示向量。

3.2 加法和标量乘法

• 矩阵加法(matrix addition)：如果你想将两个矩阵相加，只需要将两个矩阵的每一个元素都逐个相加。只有维度相同的两个矩阵才能相加。

例如：
KaTeX parse error: Expected & or \\ or \cr or \end at position 39: …2&0\\ 2&5\\ 3&1\̲ ̲\end{matrix} \r…

• 标量乘法(scalar multiplication)：这里的标量可能是一个复杂的结构，代表一个实数,只需要将矩阵中的所有元素逐一与3相乘。

例如：
KaTeX parse error: Expected & or \\ or \cr or \end at position 46: …1&0\\ 2&5\\ 3&1\̲ ̲\end{matrix} \r…

3.3 矩阵向量乘法

3.3.1 矩阵向量乘法的定义

• 矩阵向量乘法(matrix-vector multiplication)：用$A$矩阵的第$i$行元素分别乘以向量$x$中的元素，并且想加起来。矩阵向量乘法的前提是$A$矩阵的列数与