机器学习----绪论

西瓜书阅读笔记 话不多说 开始吧~

绪论

为啥有机器学习？

在计算机系统中，“经验”通常以“数据”形式存在，因此，机器学习所研究的主要内容，是关于在计算机上从数据中产生“模型”的算法。

学习任务有哪些问题种类？

“分类” classification： 预测值为离散值
“回归” regression：预测值为连续值

学得模型适用于新样本的能力，称为“泛化”（generalization）能力。具有强泛化能力的模型能很好地适用于整个样本空间。

机器学习前提

通常假设样本空间中全体样本服从一个未知“分布”（distribution）D，我们获得的每个样本都是独立地从这个分布上采样取得的，即“独立同分布”（independent and identically distributed, 简称 i.i.d.）。
机器学习是乐观的，大家都是i.i.d. 博弈论是悲观的，是大家都针对我。现在有人把两者结合起来研究

假设空间

西瓜问题来解释。（西瓜书名不虚传，示例全是西瓜~）
(色泽=？)∧（根蒂=？）∧（敲声=？）
每个都有3中属性，所以有4种选择方法+通配符*
4*4*4+1=65 （1为∅，即这个世界上没有好瓜/(ㄒoㄒ)/~~）

奥卡姆剃刀（Occam’s razor）

如无必要，勿增实体

“没有免费的午餐”（No Free Lunch Theorem）

1.没有绝对好的算法。
2.脱离具体问题，空泛地讨论“什么学习算法更好”毫无意义