机器学习_正则化问题/损失函数

【1】正则化问题：‘’正‘’即惩罚，对不希望的结构施以惩罚，融入先验知识，使得优化过程趋向于希望的目标。

【2】正则化项一般取范数。比如L0范数/L1范数实现稀疏。L0范数是NP难问题所以一般选他的最优凸近似L1范数。

【3】损失函数前面会有参数，参数的作用是为了权衡式子中的两项。比如SVM又有目标函数，又有损失函数。

         调参原因：当一项远远大于另一项，那么另一项就可以忽略不急了。参数启放大倍数的作用，对两者进行择中。