Machine Learning（Stanford）| 斯坦福大学机器学习笔记--第一周（6.线性代数复习）

这部分是对线性代数的简单复习，内容比较简单。

-------------------------------------------------------------------------------------------------------------------

图1-1

图1-1讲的是矩阵的维度。

-------------------------------------------------------------------------------------------------------------------

图1-2

图1-2讲的是矩阵中元素的表示方法，注意这里的下标是从1开始的，而不是0。而且我们不能访问不存在的元素。

-------------------------------------------------------------------------------------------------------------------

图1-3

图1-3讲的是列向量相关的知识。图1-3左边洋红色的字体告诉我们，通常用大写字母（像A,B,C,X）来表示矩阵和向量，用小写字母（像a,b,x,y）来表示数字或者原始的数字。

图1-3右边部分介绍了两种向量的表示方式，1-索引法和0-索引法，这里我们默认使用的是1-索引法。

-------------------------------------------------------------------------------------------------------------------

图1-4

图1-4讲的是矩阵的加法，要注意只有维度完全相同的矩阵才可以相加。

-------------------------------------------------------------------------------------------------------------------

图1-5

图1-6

图1-5和图1-6是矩阵的一些运算基础知识。

-------------------------------------------------------------------------------------------------------------------

图1-7

图1-8

图1-9

图1-7，图1-8和图1-9讲的都是矩阵的乘法，两个矩阵在做乘法的时候一定要注意第一个矩阵的列数等于第二个矩阵的行数，相乘所得的矩阵的行数等于第一个矩阵的行数，列数等于第二个矩阵的列数。

-------------------------------------------------------------------------------------------------------------------

图1-10

图1-10提供一种高效计算函数值的方法。图1-10中我们有一个假设函数h(x)=-40+0.25x ，x 刚好有四个实数值，分别是2104,1416，1534,852。这里先把x的四个值写成列向量 [2104  1416  1534  852]^T，然后在前面多加一列1，变成了一个4x2的矩阵。这时再把假设函数里的-40和0.25也写成列向量[-40  0.25]^T，4x2的矩阵和2x1的矩阵相乘可以看到结果是一个4x1的列向量，里面的元素刚好是每个x对应的值。

-------------------------------------------------------------------------------------------------------------------

图1-11

图1-12

图1-13

图1-11，图1-12和图1-13讲的是把矩阵和矩阵的相乘看成矩阵和多个列向量相乘。

-------------------------------------------------------------------------------------------------------------------

图1-14

图1-14就是利用上面的知识快速地计算多个假设函数的值。

-------------------------------------------------------------------------------------------------------------------

图1-15

图1-15告诉我们两个矩阵相乘是不符合乘法交换律的，即AxB和BxA是不相等。并且举了个例子，A是mxn的矩阵，B是nxm的矩阵，AxB得到的结果是mxm的矩阵；而BxA得到的结果是nxn的矩阵。

-------------------------------------------------------------------------------------------------------------------

图1-16

图1-16讲的是矩阵相乘是符合结合律的，即Ax(BxC)=(AxB)xC。

-------------------------------------------------------------------------------------------------------------------

图1-17

图1-17讲的是单位矩阵的一些性质。单位矩阵的行数和列数是一致的，单位矩阵的正对角线元素都是1。任意一个矩阵和相应的单位矩阵相乘都等于其本身。

-------------------------------------------------------------------------------------------------------------------

图1-18

图1-18讲的是可逆矩阵。如图所说，并不是所有的矩阵都是可逆矩阵。如果一个A是一个m x m的矩阵，那么A存在可逆矩阵。如果一个矩阵不可逆，我们称其为奇异矩阵或者退化矩阵。

-------------------------------------------------------------------------------------------------------------------

图1-19

图1-19讲的是矩阵的转置，比较容易。

-------------------------------------------------------------------------------------------------------------------