机器学习常见概念

范数：

L0范数是指向量中非零元素的个数，如果用L0规则化一个参数矩阵W，就是希望W中大部分元素为0，实现稀疏

L1范数是指向量中各个元素的绝对值之和

L2范数是指向量各元素的平方和然后开方

正则化是指我们修改学习算法，使其降低泛化误差而非训练误差。