范数和正则化

概念

范数是具有“长度”概念的函数。在向量空间内，为所有的向量的赋予非零的增长度或者大小。不同的范数，所求的向量的长度或者大小是不同的。

举个例子，2维空间中，向量(3,4)的长度是5，那么5就是这个向量的一个范数的值，更确切的说，是欧式范数或者L2范数的值。

对于p-范数，如果

$$X=[x_1,x_2,...,x_n]$$

那么向量x的p-范数就是

||X||p=(