php 双竖线,范数介绍，数字两边双竖线

Blog Content

范数介绍，数字两边双竖线

机器学习

2013-04-13 21:20:15

范数：距离度量的一种表述，一种强化了的距离概念，它在定义上比距离多了一条数乘的运算法则。

在数学上，范数包括向量范数和矩阵范数，向量范数表征向量空间中向量的大小，矩阵范数表征矩阵引起变化的大小。一种非严密的解释就是，对应向量范数，向量空间中的向量都是有大小的，这个大小如何度量，就是用范数来度量的，不同的范数都可以来度量这个大小；对于矩阵范数，学过线性代数，我们知道，通过运算AX=B，可以将向量X变化为B，矩阵范数就是来度量这个变化大小的。

x 的 0 范数：x 到零点的汉明距离

x 的 1 范数：x 到零点的曼哈顿距离

x 的 2 范数：x 到零点的欧氏距离

x 的 n 范数：x 到零点的 n 阶闵氏距离

x 的无穷范数：x 到零点的切比雪夫距离

||X-Y||就是向量作差之后各分量的平方和的开根号。

2范数：

矩阵2范数：矩阵A的2范数就是 A的转置乘以A矩阵特征根 最大值的开根号；

向量2范数：向量x的2范数是x中各个元素平方之和再开根号；

函数2范数：函数f(x)的2范数是x在区间(a,b)上f(x)的平方的积分再开根号。

向量的范数

首先定义一个向量为：a=[-5，6，8, -10]

向量的1范数：L1范数。

||x||1=∑i|xi|||x||1=∑i|xi|，表示向量x中非零元素的绝对值之和。

向量的1范数即：向量的各个元素的绝对值之和，上述向量a的1范数结果就是：29；

向量的2范数：L2范数。

||x||2=∑ix2i‾‾‾‾‾‾√||x||2=∑ixi2，表示向量元素的平方和再开平方。

向量的2范数即：向量的每个元素的平方和再开平方根，上述a的2范数结果就是：15；

L2范数通常会被用来做优化目标函数的正则化项，防止模型为了迎合训练集而过于复杂造成过拟合的情况，从而提高模型的泛化能力。

向量的无穷范数：LL∞

-- 向量的负无穷范数即：向量的所有元素的绝对值中最小的：上述向量a的负无穷范数结果就是：5；

-- 向量的正无穷范数即：向量的所有元素的绝对值中最大的：上述向量a的负无穷范数结果就是：10；

||x||∞=∑1nx∞i