【读书手记】【deeplearningbook-chinese】（二）

　　距离上一篇手记的时间过去了一个月，在这段时间里，我在这本书上的进展有了很多。现在回顾之前的章节，觉得本书的难度还是有的，如果对于之前的基础掌握不深刻，数学推演的能力不够强，那么之后的章节很有可能会读者来说都是天方夜谭（别问我是怎么知道的）。
　　凡事都需要从简入难，本次笔者主要分享一下书中的第二、三章。由于大多数都是十分简单的数学基础，所以在这里仅仅记录一些比较难点的知识方便整理记忆。
（PS：不要以为那些基础知识简单就不去看，到后面就很容易吃亏了。）
线性代数篇：
1. 矩阵、单位阵、逆矩阵。
【要点】并不是所有的矩阵都有逆矩阵的。当矩阵的逆存在时，我们可以用很多方法来求解。
【要点】逆矩阵很多时候都只是理论工具而不会真实去求，现实中会有别的方法，因为现实中求逆有精度的约束。
2. 线性相关/无关
【要点】如果一组向量中的任一向量都不能表示为其他向量的线性组合，那么这些向量称为线性无关。
【要点】方程AX=b的解的情况：

由此引出，方阵、奇异矩阵。
行列相等的矩阵是方阵，这是奇异或者非奇异矩阵的基础。
线性相关的方阵称为奇异矩阵，线性无关的方阵称为非奇异矩阵。
非奇异矩阵一定是满秩的，一定是可逆的。反之可逆矩阵也是非奇异矩阵。
我们也可以用行列式的方法判定方阵是否奇异。（0为奇异，非0为非奇异）
3. 对角矩阵、对称矩阵、正交矩阵
【要点】只在主对角线上含有非零元素的矩阵称为对角矩阵。
对角矩阵的运算很高效，可将一个向量的每个元素放大不同的倍数diag(v)*x
【要点】矩阵转置和自己相等的矩阵称为对称矩阵。
【要点】行向量和列向量是分别标准正交的方阵称为正交矩阵。