深度学习花书学习感悟之第二章线性代数

趁着寒假的闲暇时光，希望能稍加学习。
花书毕竟是深度学习四大名著之一，因此早就想拜读一下。在其中获得的感悟或者学习到的新的内容，希望能够通过博客的形式记录下来。一来是希望能够记录下自己学习的点点滴滴，二来是希望能够和大家探讨探讨。
这个系列的博客不会以教程的形式来撰写，毕竟本博猪也是刚开始看，将以笔记的形式呈现出来，希望大家不要嫌弃。
下面进入正题吧

第二章 线性代数

一、 范数

1. 形式上，Lp 范数定义如下：
   
   平方 L2 范数在数学和计算上都比 L2 范数本身更方便。例如，平方 L2 范数对x 中每个元素的导数只取决于对应的元素，而 L2 范数对每个元素的导数却和整个向量相关。（对于这句话的理解，自己求个导就显而易见了）
   有了上述表达式，那么L1范数和L2范数的形式就有了。
   特别的，需要提出一下最大范数：

2. 另外一个经常在机器学习中出现的范数是 L∞ 范数，也被称为 最大范数（max
   norm）。这个范数表示向量中具有最大幅值的元素的绝对值：
   

3. 另，有时候我们可能也希望衡量矩阵的大小。在深度学习中，最