范数
在机器学习中,经常使用称为范数的函数来衡量大小。那么范数是什么呢?
范数实质上就是一种强化了的距离概念,它在定义上比距离多了一条数乘运算。
范数(包括L-p)范数是将向量映射到非负值的函数,满足下列定义:
- $f(x)=0 ==> x=0 $
- f ( x + y ) ≤ f ( x ) + f ( y ) f(x+y) \leq f(x)+f(y) f(x+y)≤f(x)+f(y)
- ∀ α ∈ R , f ( α x ) = ∣ α ∣ f ( x ) \forall \alpha \in R,f(\alpha x)=|\alpha| f(x) ∀α∈R,f(αx)=∣α∣f(x)
L p L^p Lp范数
L p L^p Lp范数定义如下:
∣ ∣ x ∣ ∣ p = ( ∑ i ∣ x i ∣ p ) 1 / p ||x||_p = {(\sum_i|x_i|^p)}^{1/p} ∣∣x∣∣p=