读书笔记：机器学习（第1～2章）

一、奥卡姆剃刀原则和没有免费的午餐定定理

• 奥卡姆剃刀原则：若有多个假设与观察一致，则选择最简单的那个

• 没有免费的午餐定理：无论学习算法多好还是多差，其期望性能是相同的

• 注意1: 一个重要前提就是，所有“问题”出现的机会相同

• 注意2: 本质上是说，脱离具体问题，空泛地谈论“什么学习算法更好”毫无意义

二、评估方法

评估学习器的泛化误差

• 留出法：一般的划分方法

• 交叉验证法： 为减小因样本划分不同而引入的差别，k折交叉验证通常要随机使用不同的划分重复p次，最终的评估结果是这p次k折交叉验证结果的均值

• 自助法：给定包含m个样本的数据集D，每次随机从D中挑选一个样本，将其拷贝放入D'，然后再将该样本放回初始数据集D中，这个过程重复执行m次后，就得到了包含m个样本的数据集D'，可将D'用作训练集，D\D'用作测试集

三、各种F1

1. • 常用的F1

2. • F1的一般形式

，其中衡量了R对P的相对重要性，时退化为标准的F1，时R有更大影响，时P有更大影响

3. • macro-F1

n个二分类混淆矩阵：先在各混淆矩阵上分别计算出P、R，再计算平均值

4. • micro-F1

n个二分类混淆矩阵：先将各混淆矩阵的对应元素进行平均，得到TP、FP、TN、FN的平均值，再基于这些平均值计算

四、ROC曲线

• 构造：把分类阈值设为最大，即把所有样例均预测为反例，在坐标(0,0)出标记一个点，然后将分类阈值依次设为每个样例的预测值，即依次将每个样例划分为正例

• 注意：在非均等代价下，ROC曲线不能直接反映出学习器的期望总体代价

PS：本文大部分公式和图片都来自于周志华老师的《机器学习》，有理解不对的地方，欢迎指正