机器学习和统计学习的区别

统计学习侧重推理，怎么样由数据推理得到结果。机器学习侧重预测（prediction），建立模型（可能是一个黑箱）去做后续工作

所谓的性能度量（Performance measure）就是关于真实值和预测值的关系，真实值与预测值越接近，或者说真实的分布与预测分布越接近，性能越好。对于回归问题，我们可以选用均方误差（mean squared error），绝对误差（absolute Loss），决定系数（coefficient of determination ）以及Huber Loss来度量模型的性能，对于分类问题，我们可以用准确率，错误率，或者得到混淆矩阵，进一步得到查准率（precision）、查全率（recall）以及P-R曲线和ROC曲线。