人工智能-数学基础-范数

什么是范数(Norm)?

范数是对向量或矩阵或张量的大小的表示,那么什么什么向量,为什么要用范数去表示呢,向量在深度学习实践中我们可以想到词向量:如 i love you , i 的词向量 [1,0,0] 它在 i 方向的值为1,在 love和you方向的值为0,这就是向量,因为它的值是各个方向的,我们直接对它求和的话是不是缺乏意义,那么数学上我们引入一个范数的计算公式,大家不用理解为什么这么写,只需要了解怎么算即可,公式如下
这里直接写最终公式:

对于这个向量n = [1,2,-3]
举个例子,咱们求1范数,即p=6

那么n向量的 1范数为1
举个例子,咱们求2范数,即p=2

那么n向量的 2范数为$\sqrt{1}4$
还有两个特殊的负无穷范数,正无穷范数


就是向量里最小或最大值的绝对值
n的负无穷范数3,正无穷范数2
范数的实践意义?
会在后期的算法中,正则化(Regularize)时候用