kingdancer1的博客

书中开篇明义，在第一章1.3节就引出了统计学习的三要素：模型+策略+算法，后面每个学习方法的研究，基本都是从这三个要素来展开。具体而言： 模型：即关系或者规律。用书中话说，就是“所要学习的条件概率分布或决策函数”是线性还是非线性，是概率模型还是非概率模型，所有的可能（某种类型的模型）构成了模型的假设空间； 策略：怎么去学习。拿AlphaGo举例，其学习的策略就是当前每一步棋的价值是否最好，也就是说，落下的每一个子，是朝着取胜的目的去的。书中原话为“按照什么样的准测学习或选择最优的模型”。一般我们在训练数据的时候，用预测值和真实值之间的差距做比较，差距越小越好，这就是策略； 算法：已经选出来的最优模型，里面的参数怎么算呢？这时候该算法上场了，“统计学习的算法成为求解最优化问题的算法”。算法很重要，算法有快有慢，有准有不准，在统计学习中，这个是大头之一。