统计学习方法系列（一）统计学习及监督学习概论

目录

 

1、机器学习分类

2、统计学习方法三要素

3、泛化能力

4、生成模型和判别模型

5、监督学习应用

---

1、机器学习分类

• 监督学习

• 无监督学习

• 强化学习

2、统计学习方法三要素

方法=模型+策略+算法

• 模型

• 策略

• 算法

//大多数机器学习算法都会先做一个模型的假设。在这个假设的基础上，选择一个损失函数(或者说误差度量)，用以度量机器学习模型的好坏。然后再选择模型空间，也就是你打算在什么样的空间里面搜索问题的解。有了损失函数和模型空间，就可以定义一个优化问题。最后，再设计优化算法求解优化问题，从模型空间中搜索出最优解即可。

3、泛化能力

4、生成模型和判别模型

5、监督学习应用

• 分类问题

通常以关注的类为正类，其他类为负。

v

• 标注问题

• 回归问题

回归问题的学习等价于函数拟合。

关于最小二乘法：最小二乘法的本质是什么？ - 知乎 (zhihu.com)

关于联合概率：联合概率、边缘概率、条件概率 - 知乎 (zhihu.com)