向量范数(Vector norm)是表征向量“长度”的一种度量方法,在神经网络中,常用来表示张量的权值大小,梯度大小等。
对于矩阵、张量,同样可以利用向量范数的计算公式,等价于将矩阵、张量打平成向量后计算。
在 TensorFlow 中,可以通过tf.norm(x, ord)
求解张量的L1, L2, ∞
等范数,其中参数ord指定为1,2 时计算L1, L2 范数,指定为np.inf
时计算∞
−范数
向量范数(Vector norm)是表征向量“长度”的一种度量方法,在神经网络中,常用来表示张量的权值大小,梯度大小等。
对于矩阵、张量,同样可以利用向量范数的计算公式,等价于将矩阵、张量打平成向量后计算。
在 TensorFlow 中,可以通过tf.norm(x, ord)
求解张量的L1, L2, ∞
等范数,其中参数ord指定为1,2 时计算L1, L2 范数,指定为np.inf
时计算∞
−范数