西瓜书阅读笔记 话不多说 开始吧~
绪论
为啥有机器学习?
在计算机系统中,“经验”通常以“数据”形式存在,因此,机器学习所研究的主要内容,是关于在计算机上从数据中产生“模型”的算法。
学习任务有哪些问题种类?
“分类” classification: 预测值为离散值
“回归” regression:预测值为连续值
学得模型适用于新样本的能力,称为“泛化”(generalization)能力。具有强泛化能力的模型能很好地适用于整个样本空间。
机器学习前提
通常假设样本空间中全体样本服从一个未知“分布”(distribution)D,我们获得的每个样本都是独立地从这个分布上采样取得的,即“独立同分布”(independent and identically distributed, 简称 i.i.d.)。
机器学习是乐观的,大家都是i.i.d. 博弈论是悲观的,是大家都针对我。现在有人把两者结合起来研究
假设空间
西瓜问题来解释。(西瓜书名不虚传,示例全是西瓜~)
(色泽=?)∧(根蒂=?)∧(敲声=?)
每个都有3中属性,所以有4种选择方法+通配符*
4*4*4+1=65 (1为∅,即这个世界上没有好瓜/(ㄒoㄒ)/~~)
奥卡姆剃刀(Occam’s razor)
如无必要,勿增实体
“没有免费的午餐”(No Free Lunch Theorem)
1.没有绝对好的算法。
2.脱离具体问题,空泛地讨论“什么学习算法更好”毫无意义