1、损失函数 损失函数是计算预测结果与实际结果偏差的函数。损失函数选的不好,你会发现,优化了半天看不到优化的效果。所以损失函数的选择hin重要。 直观想到的算是函数还有如下几种: 分类问题,可以计算误分类的个数、误分类的概率; 回归问题,可以计算到超平面的距离,比如 L p L^p Lp距离。 然而,实际用到的却比较多,考虑的因素也比较多。 2、常用的损失函数 2.1、均方差损失 ( L 2 L^2 L2损失)可以记为 E S M ESM ESM M S E