机器学习笔记：机器学习的评价度量标准

性能度量：是衡量模型泛化能力的数值评价标准，反应了当前问题（任务需求）。不同的性能度量可能会导致不同的评判结果。
比如：回归（regression）任务常用均方误差

• 分类问题的常用性能度量

  • 错误率

  • 精度

  • 二分类混淆矩阵
    真实情况 | 预测为正 | 预测为反
    ---------------|--------------|--------------|
    正例 | TP(真正例) | FN(假反例)
    反例 | FP(假正例) | TN(真反例)

    • 查准率（准确率）：P=TP/（FP+TP）
    • 查全率（召回率）：R=TP/（TP+FN）
    • F1: F1=2PR/(P+R)=(2*TP)/(样例总数+TP-TN)

  • AUC&&ROC

• 回归问题的常用度量
  -
  - MAE（Mean Abrolute Error）:平均绝对误差
  - MSE ( Mean Square Error ) ：均方误差
  - RMSR ( Root Mean Sqare Error )：均方根误差
  - R平方

• 总结

• 机器学习目标：拿到有泛化能力的“好模型”

• 机器学习评估方法：留出法，交叉验证法，自助法

• 机器学习的评估度量标准：
  分类问题—错误率、精度、召回率/准确率、混淆矩阵、FI值，AUC
  回归问题—MAE、MSE、RMSE、R平方